一、人工智能在医药专业上的应用

1、近年来，智能医疗在国内外的发展热度不断提升。有人提出，“尽管安防和智能投顾最为火热，但AI在医疗领域可能会率先落地。”一方面，图像识别、深度学习、神经网络等关键技术的突破带来了人工智能技术新一轮的发展。大大推动了以数据密集、知识密集、脑力劳动密集为特征的医疗产业与人工智能的深度融合。

2、另一方面，随着社会进步和人们健康意识的觉醒，人口老龄化问题的不断加剧，人们对于提升医疗技术、延长人类寿命、增强健康的需求也更加急迫。而实践中却存在着医疗资源分配不均，药物研制周期长、费用高，以及医务人员培养成本过高等问题。对于医疗进步的现实需求极大地刺激了以人工智能技术推动医疗产业变革升级浪潮的兴起。

二、人工智能推进法

《关于本市推动新一代人工智能发展的实施意见》（沪府办发〔2017〕66号），集聚人工智能领域人才，突破关键核心技术，推进人工智能示范应用，加快建设国家人工智能发展高地，制订《关于加快推进上海人工智能高质量发展的实施办法》。

1.加快建设人工智能人才高峰，对于符合条件的人才和核心团队纳入本市人才高峰工程，配置具有国际竞争力的事业发展平台，完善工作体制和社会保障。

2.支持本地高校、科研机构与企业联合培养人工智能人才，合作开设人工智能专业课程、设立人工智能研究院所，建立人才实训基地，提高应用型科技人才培养精准度。

3.加强本市人才相关政策的覆盖适用，集聚人工智能领域各类优秀人才。加大专业技术人才和技能人才的选拨力度。

4.支持本市人工智能领域重点机构引进各类优秀人才，鼓励各区因地制宜、自主探索人工智能人才在本区的生活、就业等保障举措。

5.设立上海市人工智能战略咨询专家委员会，论证和评估人工智能发展规划、重大科技项目实施，组织开展人工智能战略问题研究和重大决策咨询。

6.加快出台本市公共数据和一网通办管理办法，实现公共数据的规范采集、共享使用。引导人工智能企业等市场主体合法合规开展数据资产流通和交易。

7.制定公共数据资源开放清单，依法有序向人工智能企业开放教育、医疗、旅游等重点领域数据信息，建设文献语言、图像图形、环境传感、地图位置等多类型行业大数据训练库，满足人工智能深度学习的数据需求。

8.优化交通运输等城市管理场景资源的供给，支持本土人工智能企业新技术、新产品、新模式的应用推广，形成60个左右人工智能深度应用场景，建设100个以上人工智能应用示范项目。

9.支持人工智能企业参与“智能上海”行动建设，推动党政机关、企事业单位提升服务水平和业务效率。将符合条件的人工智能产品纳入创新产品推荐目录，推动首购应用。

10.将人工智能纳入本市战略性新兴产业重点领域，按照本市战新产业发展专项资金管理办法，对符合条件的人工智能类重大项目及平台给予支持。

11.对符合重点支持方向的人工智能领域项目，按照本市人工智能创新发展专项支持实施细则，给予总投资最高30%，总额最高2000万元的支持。

12.加大人工智能领域研发投入，加快上海类脑智能科学研究基地建设。推进国家智能传感器制造业创新中心建设，整合重点企业、科研院所等要素资源，加快在类脑智能理论研究、人机混合增强智能、新型智能算法等领域取得突破，开展智能感知、计算处理、智能执行等关键共性技术攻关。

13.支持人工智能龙头企业在沪建立总部，鼓励有条件的企业或机构设立创新平台、孵化基地。鼓励人工智能企业离岸创新成果在本市转化，在相关方面视同国内创新成果支持。

14.举办世界人工智能大会、创新大赛等重大活动，组建长三角人工智能创新联盟，深化产业协同发展，提高活跃度和品牌影响力。

15.加快建设国家人工智能高地，构建本市“人形分布、多点联动”的产业发展空间布局，推动本市相关集聚区政策覆盖人工智能领域，打造华泾北杨等3-4个人工智能特色小镇，建设5个人工智能特色示范园区。

16.适应产业创新跨界融合发展趋势，在人工智能领域建立宽松灵活的产业空间管理机制，给予人工智能企业资源空间等方面支持，对符合条件的企业，合理确定开发强度和配套功能。

五、加大政府引导和投融资支持力度

17.统筹用好产业转型升级、信息化建设等各类专项资金，引导企业加大投入和项目建设，支持人工智能创新发展。

18.对符合条件的人工智能企业相关产品，给予本市装备首台套、软件首版次、新材料首批次相关政策支持。鼓励各区出台政策支持人工智能产业化项目。

19.发挥中小微企业政策性融资担保基金作用，加大人工智能领域企业信用担保力度。鼓励有条件的金融机构设立人工智能信贷专项。

20.发挥政府投资基金撬动作用，引导社会资本设立千亿规模人工智能产业发展基金。支持人工智能领域中小企业向“专精特新”发展，培育壮大一批细分领域隐形冠军和创新标杆企业。

21.支持人工智能企业通过兼并、收购、参股等多种形式开展国际化投资并购。鼓励各区对人工智能型企业上市等给予重点支持。

22.加大适应人工智能发展的基础服务供给，加快5G网络、数据中心、新型城域物联专网等新一代信息基础设施建设。支持人工智能企业参与综合标准、基础共性技术标准制定。建立保障人工智能健康安全发展的制度规范。开展知识产权评议和专利导航。

三、人工智能服务外包带来了哪些风险

1、人工智能面临合规、滥用、数据泄露等安全风险

2、近年来，人工智能在算法、算力、和大数据因素的影响下，迎来第三次发展浪潮。它在改变人类生产生活方式的同时，也给社会带来不可忽视的风险挑战。

3、如今的人工智能依赖于大数据的“喂养”。白皮书指出，人工智能在数据采集环节，存在过度采集数据、数据采集与用户授权不一致、个人敏感采集信息合规问题等；还易遭受数据投毒、模仿攻击等。

4、在数据使用环节，数据标注带来安全隐患和合规问题。如外包公司的标准人员可直接接触原始数据，如果管理不规范，可能存在内部人员盗取数据、数据泄露等风险。

5、在应用方面，利用人工智能技术模仿人类，如换脸、手写伪造、人声伪造等，除引发伦理道德风险外，还可能加速技术在黑灰色地带的应用，模糊技术应用的合理边界，加剧人工智能滥用风险。

6、其他方面，人工智能系统还存在数据存储安全隐患、共享安全隐患、数据传输安全隐患等。

7、我国尚未有正式立项的人工智能自身安全的标准

8、面对人工智能带来的各种安全风险，各国制定了相关的法律法规和政策。比如美国总统签署行政令，启动“美国人工智能倡议”；英国建立数据伦理与创新中心为政府提供咨询；日本成立人工智能委员会，开展人工智能伦理道德研究。

9、我国亦发布了一系列相关政策，如《新一代人工智能发展规划》、《国家新一代人工智能创新发展试验区建设工作指引》等，在特定领域如无人机、自动驾驶等领域出台相应规范性文件。此外，特定行业和领域颁布或立项相应标准，如生物识别领域的《信息安全技术虹膜识别系统技术要求》等。

10、不过，我国尚未有正式立项的人工智能自身安全或基础共性的安全标准。

11、人工智能在个人信息保护等方面存在标准化需求

12、结合安全分析结果和当前标准化现状等因素，白皮书指出，人工智能在算法模型、数据安全和个人信息保护、基础设施安全、产品和应用安全等方面存在标准化需求。

13、针对突出的数据安全与隐私保护风险，白皮书建议平衡隐私保护和人工智能分析效果，防范逆向工程、隐私滥用等安全风险，开展人工智能隐私保护要求及技术类标准研究工作。

14、按照“充分研究，急用先行，安全事件推动”的思路，白皮书建议优先立项《人工智能安全参考框架》、《人工智能数据集安全》、《人工智能数据标注安全》、《机器学习算法模型可信赖》、《人工智能应用安全指南》、《人工智能安全服务能力要求》等标准。