用微信扫码二维码
分享至好友和朋友圈
“我经常思考和讨论强大 AI 的风险......”
日前，Anthropic CEO Dario Amodei 在其个人博客中呼吁人们重视人工智能（AI）安全问题，“”，过于低估 AI 风险将成为“阻碍我们走向积极未来的唯一障碍”。
事实上，在 AI 大模型技术快速发展、深度赋能各行各业的当下，一系列复杂且不可忽视的安全风险也随之而来。三位图灵奖得主 Geoffrey Hinton、Yoshua Bengio 和姚期智以及几十位 AI 领域顶尖学者就曾在“AI 安全国际对话威尼斯共识”公开信中警告道，“。”
而医疗保健作为与所有人息息相关的领域，确保其中 AI 应用的安全，避免“灾难性结果”、甚至“一些小错误”都显得更为关键。
作为全球领先的医疗监管机构，美国食品药品监督管理局（FDA）对 AI 新技术和产品的态度对全球医疗行业都有深远的影响。
日前，FDA 的 Haider J. Warraich、Troy Tazbaz 和 Robert M. Califf 在 JAMA（国际四大医学期刊之一）上系统性回顾了 FDA 对 AI 的监管历史，指出 AI 在医疗产品开发、临床研究和临床护理中的几种潜在用途，并提出了在 监管系统适应 AI 独特挑战时值得考虑的概念 。
尤其是，他们在文章中写道， 生成式 AI 的应用，如大语言模型（LLMs），是一个独特的挑战，因为它有可能产生不可预见的突发后果，亟需在这一领域进行监管创新 ，开发者、临床医生、卫生系统领导者和监管者之间的合作也至关重要。
FDA 如何监管 AI 医疗产品？
多年来，FDA 在应对 AI 技术发展方面一直扮演着至关重要的角色。作为首个批准部分 AI 驱动的医疗设备的监管机构，FDA 的历史可追溯至 1995 年，当时批准了 PAPNET 软件，旨在通过神经网络来防止宫颈癌误诊。虽然这一技术最初被认为比人类病理学家更准确，但由于成本效益不足，未能广泛应用。
自那时以来， FDA 已经批准了大约 1000 种 AI 驱动的医疗设备 ，尤其是在放射学和心脏病学领域。
图｜FDA 授权销售的 AI 医疗器械（按年份）（来源：该论文）
最近，FDA 的医疗产品中心描述了关于 在医疗产品中开发和使用 AI 的 4 个重点领域 ：（1）促进合作以保障公众健康；（2）促进协调标准、指南、最佳实践和工具的制定；（3）推进支持创新的监管方法的开发；（4）支持与 AI 性能评估和监测相关的研究。
FDA 的监管框架建立在以风险为基础的策略之上，根据应用的风险程度，在 AI 方面，可分为 非监管、部分监管和高度监管 的医疗设备。FDA 注重采取灵活的监管措施，例如通过生命周期管理方法，持续监控 AI 驱动设备的安全性和有效性。
图 | AI 的整个产品生命周期方法（来源：该论文）
同时，FDA 也展示了对创新技术的开放态度，推出了例如“软件预认证试点计划”等项目，为新兴技术的发展铺平道路。
此外，FDA 与全球的监管机构保持合作，以推动 AI 最佳实践的全球协调，尤其是在医疗设备领域。
AI 在医疗保健领域的应用
事实上，AI 为医疗产品开发的多个方面提供信息的潜力是深远的，并且已经开展了较为丰富的应用。而对于 FDA 而言，想要对此开展良好监督与评估的前提是充分了解该技术应用。
目前，AI 在医疗保健领域的应用主要集中于药物开发与临床研究两方面。
在药物开发方面，AI 正在彻底改变开发的各个阶段。当前，AI 已被广泛应用于药物发现的早期阶段，例如通过机器学习模型分析大规模基因组数据、预测药物与靶标的相互作用，从而加速潜在候选药物的筛选与优化。
此外，AI 在药物设计中也发挥着重要作用，特别是在通过计算预测化合物结构和药物活性之间的关系上，AI 大幅缩短了药物开发的时间。AI 还可以通过分析时间序列数据以补充药代动力学和药效学模型。
未来，AI 在药物开发中的潜在用途还包括优化流程设计并实施高级流程控制、智能监控以及维护和趋势监控，还能够通过分析个体遗传数据，设计出针对特定患者的定制化治疗方案。
在临床研究方面，AI 正在迅速成为临床研究中的关键推动力。当前，AI 主要用于提高临床试验的效率和精度。例如，AI 可以通过大数据分析和自然语言处理（NLP）从临床试验数据库、试验公告、社交媒体、医学文献、登记库以及登记处和电子健康记录中的结构化和非结构化数据中挖掘数据，将个人与试验相匹配，从而筛选合适的试验参与者，解决传统临床试验中受试者招募慢、代表性不足等问题。
此外，AI 还能在临床试验数据收集、管理和分析以及上市后安全监测和评估等方面做出卓越贡献。
AI 监管亟待创新
然而， 随着 AI 技术在医疗领域的广泛应用，FDA 面临着新的挑战，包括 AI 模型不断进化和技术应用复杂性的增加使得监管难度直线上升。 这要求未来的监管工作不仅需要确保技术的安全性和有效性，还需通过跨学科的合作与创新，积极应对 AI 技术带来的潜在风险。
FDA 已经意识到传统的 静态监管方法不再适用 AI 的快速演进 ，特别是对于生成式 AI 和大语言模型等新兴技术，这些技术具有不可预见的潜在后果。
例如， 生成式 AI 在诊断、治疗等领域虽能带来巨大创新，但也存在潜在的错误和偏见风险，如 AI 医疗记录助手可能会错误生成未经讨论的诊断 。因此，需要为这些复杂 AI 模型开发专门的工具，评估其输出的可靠性和安全性。现有的一些评估工具如 DeepEval 已经显示出一定的效果，但更深入的监管创新仍是必要的。
此外，文章指出，AI 模型的后续监测与持续评估是保障其安全性的关键，AI 技术的表现受环境变化的影响较大，需要在其使用的临床环境中进行持续的实时监控。未被监控的 AI 系统可能在实际操作中产生重大危害，这一领域也急需新的管理工具和方法来应对。
因此，在监管 AI 技术时，将更加注重长期的效果监测，并强调合作和透明度，以确保 AI 在医疗领域的创新安全和有效。
三位在文末写道： 所有相关部门都需要以谨慎和严谨的态度对待人工智能这项可能带来变革的技术 。
：阮文韵
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
网易跟贴
注册
手机发跟贴
登录并发贴
网友评论仅供其表达个人看法，并不表明网易立场。
目前没有跟贴，欢迎你发表观点
最强 OpenAI o1 逻辑推理正确率仅 50%！清华、智谱推出「大模型逻辑推理新基准」
返回网易首页 下载网易新闻客户端谷歌将推出AI测试皮肤病软件，为何第一站绕开美国选择欧洲
谷歌计划推出一款辅助皮肤病诊断的AI软件。 该软件使用户能够上传皮肤照片，然后提供关于可能的皮肤病的分析。 它能够识别约288种皮肤病，包括皮肤癌，涵盖了常见皮肤病的90%。 软件已在欧盟获得批准，但若在美国上市，则需通过FDA的审查。 专家指出，向公众提供AI皮肤病诊断工具可能还不够成熟。 在最近一次Google I/O开发者大会上，谷歌的健康官宣布，该软件可能会在年底前在欧盟推出。 用户需拍摄三张皮肤瑕疵照片，并可选填症状和时间等信息，软件随后提供可能的皮肤病诊断及相关信息。 尽管如此，该软件会在结果页面上警告用户，这些结果不是医学诊断。 谷歌表示，软件通过分析“数十万张皮肤图像”训练而成，能够识别大多数常见皮肤病。 然而，皮肤科医生Daneshjou对此持保留态度，认为缺乏临床实验证据，且在美国，尚无AI图像分析工具获得批准用于皮肤科。 令人关注的是，尽管美国是谷歌的本土市场，但该公司选择首先在欧盟推出该软件，因为FDA对健康软件的审查非常严格。 谷歌的软件已获得欧盟的CE认证，意味着它可以在欧盟及其他遵循该标准的国家销售。 与此同时，在美国，该软件还需等待FDA的审批。 FDA对健康软件的审批分为不同级别，而谷歌的皮肤病软件可能被视为需要更严格审查的医疗设备。 FDA发言人建议谷歌从不同人群收集数据，并指出软件可能需要获得医疗器械的批准。 图像识别技术已广泛应用于搜索引擎，如识别未知植物。 但在皮肤病诊断中，由于潜在的严重后果，如误诊可能导致严重后果，因此专家认为现在向公众提供AI皮肤病学工具可能为时尚早。
lee?cooper和lee是一个品牌吗?
概述
上周，直播平台映客发布公告，将“映客互娱有限公司”更改为“映宇宙（北京）科技有限公司”。 同日，映客互娱在其线上品牌升级发布会中，还宣布公司业务将全面向元宇宙进军，基于Web3.0技术形态，创建现实与虚拟相结合的多维社交矩阵，打造一个具有无限活力与生机的社交元宇宙。
除了映客，腾讯似乎也开始对元宇宙下手了。 本周，有三位知情人士透露，腾讯向员工宣布正式成立“扩展现实”（XR）部门，押注虚拟世界的元宇宙概念。
尽管腾讯拒绝置评，但此次成立XR部门并不令人意外，在新的发展趋势下，国内外互联网巨头纷纷入局元宇宙，而VR/AR/MR等硬件又被认为是通往虚拟世界的重要入口，因此腾讯作为国内的头部互联网公司自然要参与其中了。
此外，除了软硬件的布局，Meta、微软等科技巨头组建了一个名为元宇宙标准论坛（Metaverse Standards Forum）的组织，英伟达高管尼尔·特雷维特（Neil Trevett）担任元宇宙标准论坛主席。
元宇宙标准论坛免费向任何组织开放，致力于统一元宇宙行业的标准，为合作构建互操作性标准服务，从而实现数字世界的相互兼容。
放眼全球，越来越多的公司开始尝试将元宇宙技术融入自身业务，瞄准元宇宙赛道发力。 围绕“元宇宙”的竞争愈发激烈，不论是科技巨头还是头部资本，他们都认为元宇宙领域拥有着广阔的前景。
虽然元宇宙尚处于发展的早期，但尽早帮助科技巨头们达成一个标准和共识，将会更加有利于技术和市场的发展。
元宇宙时代正在来临，我们满怀期待。以下是本期周刊的详细内容，我们元宇宙之心将其分为了重要新闻、本周新闻一览两大板块，请Enjoy：
重要新闻
【知情人士：腾讯正式宣布成立“XR”部门，押注元宇宙】
6月20日消息，三位知情人士称，腾讯控股周一向其员工宣布正式成立“扩展现实”（XR）部门，正式将赌注押在虚拟世界的元宇宙概念上。 消息人士称，该部门的任务是为腾讯建立包括软件和硬件在内的扩展现实业务，并将成为该公司互动娱乐事业群（IEG）的一部分。
【元宇宙沙盒游戏平台Roblox或将登陆Meta Quest2】
据Bloxy News近日在社交媒体上披露，元宇宙沙盒游戏平台Roblox或将登陆Meta Quest2。 Bloxy News在推特上写道：“准备好以一种全新的、令人身临其境的方式体验元宇宙吧。 Roblox很快就将正式登陆另一款设备……有人能猜到它是什么吗？Bloxy News在推文配图中使用了Roblox和Oculus的徽标，图片下方还添加了“Meta Quest”的标签。 但截至目前，Meta官方还没有对这一传闻发表任何评论。
【英伟达宣布完成基于5G的VR协作概念验证】
近日，英伟达与多个合作伙伴宣布了一项成功的概念验证，它使用边缘计算和支持5G的VR技术，使相距约70英里的两个工程团队能够像在同一个房间一样进行协作。
【Snapchat与British Vogue合作推出AR时装展】
Snapchat日前宣布和英国版《Vogue》合作推出VoguexSnapchat AR展览之重新定义人体，由英国版《Vogue》和《Vogue》欧洲总监Edward Enninful OBE策划。 该AR展览展示了使用自定义Snapchat过滤器实现的高端时尚设计。
【Immutable X宣布更新品牌】
Immutable X宣布更新品牌，其使命是与StarkWare合作，通过Immutable X和Immutable Games Studio推动下一代Web3游戏发展，使数字世界成为现实。 Immutable已经发布新品牌Logo和全新网站。
【欧漫《星际特工》Valerian NFT将于7月10日前发售】
欧漫《星际特工》Valerian NFT所有NFT特性组件和元数据都已更新为IPFS，将于7月10日前发售，同时将启动Web3.0。 此外，其生态第一个基于创造者经济的Web3.0社交网络聚合器将于近期公布。 Valerian NFT是基于欧洲漫画《星际特工》IP推出的系列NFT。 据悉，Valerian NFT总量为9999个，将在Binance NFT、Valerian官网同步发行。
【中国工商银行首发家企欣荣纪念章数字藏品NFT】
据中国工商银行官方公众号，工银私人银行家族信托业务作为实现财产隔离、保值增值、财富传承的有效模式，深受广大客户好评。 家企欣荣纪念章由国内知名工艺美术师朱熙华先生为工商银行客户量身设计，本款数字藏品根据家企欣荣大铜章设计，发行由工商银行金融科技创新体验中心和工银玺链提供技术支持。 它是工行对于企业家客户的承诺，是这种承诺的象征与信物，成为企业家财富和精神代代相传的经典标志。
【报告：2020年4月到2022年4月Crypto、区块链、NFT的招聘信息增加了804%】
一份报告显示，从2020年4月到2022年4月，Crypto、区块链、NFT的招聘信息增加了804%。 全球就业门户网站Indeed的报告还显示，市场需求加速增长，到2022年增长315%。 2022年4月的招聘信息是2019年的15倍，凸显了大流行在这种持续增长中的作用。 报告显示，Covid-19大流行已经快速追踪了印度跨职能技术的采用，因此对技术专业人员的需求比以往任何时候都多，尤其是在Crypto、NFT和区块链等新领域的专业知识。 数据还显示，加密职位似乎是整个技术职位招聘中占比最大的职位之一，从2019年至2020年的41.22%增加到2021年至2022年的67.48%。
【BitGo与Parallel Finance合作为美国机构推出首个NFT托管平台】
数字资产安全和流动性提供商BitGo周三宣布，已与去中心化借贷和质押协议Parallel Finance合作为开发商、零售市场和机构推出了NFT热钱包和托管解决方案。 BitGo首席产品官Chen Fang表示，这是第一个可以与热钱包配对的美国合格托管解决方案。 客户可以通过BitGo的新钱包服务与OpenSea和LooksRare等去中心化市场进行交互，类似于MetaMask用户可以集成他们的钱包的方式。
【顶级豪车品牌宾利宣布进军NFT市场，将于9月发布限量版NFT】
顶级豪华汽车品牌宾利在社交媒体上发文宣布进军NFT市场，计划于今年9月发布其基于Polygon网络的限量版（208份）NFT作品。
【人民科技将发行袁隆平数字藏品】
人民网旗下子公司人民科技将于6月19日在人民科技数字藏品平台（简称人民数藏）上发行第一款数字藏品——《人民日报》头版数字藏品·新中国第一个特等发明奖授予袁隆平团队，藏品以公益的方式，面向公众免费限量发行5000份。 藏品内容是袁隆平团队——我国籼型杂交水稻科研协作组，获新中国成立以来国家颁发的第一个特等发明奖的《人民日报》头版版面。
【国内数字藏品发行平台数量已经突破500家】
据华夏时报披露，截至2022年6月15日，据不完全统计，国内数字藏品发行平台数量已经突破500家。 形成鲜明对比的是，2022年2月，国内数字藏品平台为有100余家。 不过，数字藏品发行多而不精，同质化严重，以二级市场为营销重点的策略导致炒作盛行，数字藏品产业被拖入了“假性存量竞争”的怪圈，亟需监管。
【微信或首次以“涉数字藏品二级交易”理由封禁一公众号】
6月20日消息，近日，“NFTea数字茶票”官方公众号被封，停用理由是“由用户投诉并经平台审核，存在虚拟货币交易或数字藏品二级交易相关经营活动”，与此前封禁数藏号表述有较大区别。 此前3月，大量数字藏品微信公众号被封，包括Art Meta元艺数、一点数藏、归藏元宇宙、画生Meta、元本空间、神达数藏、One Meta、零号地球、和诺坊体等，大部分被封的理由为“存在未取得法定许可证件或牌照，发布、传播或从事相关经营活动的行为”，少数的封禁理由是涉嫌欺诈。 其中，有平台已另设微信公众号账号，包括杭州元艺数科技有限公司旗下“Art Meta数藏世界”、江西点藏科技有限公司旗下“一点数创”等。
【Meta、微软等科技巨头宣布成立并启动元宇宙标准论坛】
包括Meta、微软、索尼等公司在内的科技巨头宣布成立并启动元宇宙标准论坛（Metaverse Standards Forum），该论坛由Khronos Group主办，该组织是一个由170个组织组成的非营利性财团，支持3D图形、VR、AR和机器学习等行业的互操作性标准。 新论坛免费向任何组织开放。 它将专注于旨在实现原型设计、黑客马拉松、插件和开源工具的项目，以促进元宇宙标准的测试和采用。 现超过37名元宇宙标准论坛创始成员包括Meta、微软、索尼互动娱乐、Epic Games和中国科技巨头阿里巴巴、华为等。
【大朋VR获新一轮数千万元融资将推出游戏级VR产品】
近日，全栈VR技术与产品公司大朋VR宣布完成数千万元融资，本轮融资由华强资本，谦宜资本和联合光电（）旗下产业基金联芯基金联合投资。
【eBay已收购NFT交易平台KnownOrigin】
6月22日消息，全球电商巨头eBay已于今日完成对NFT交易平台KnownOrigin的收购交易，具体金额及条款暂未透露。 本次收购旨在将eBay的影响力和声誉与KnownOrigin的领先技术相结合，为新一代NFT创、卖家和买家提供支持。 KnownOrigin于2018年成立，旨在使艺术家和收藏家能够通过区块链支持交易创建、购买和转售NFT。
【报告：预计到2030年NFT市场规模将达到2120亿美元】
6月17日，Acumen Research and Consulting发布报告《2022-2030年NFT市场规模、份额、分析报告和区域预测》。 报告称，2021年，全球NFT市场的规模为160亿美元，预计到2030年将达到2120亿美元，2022年至2030年期间复合年均增长率（CAGR）为33.7%。
【研究：当前的元宇宙仍然不适合远程工作】
本月早些时候发布的一项研究发现，使用当今可用的工具在虚拟世界中工作可能会降低员工的生产力，并增加他们与远程工作相关的挫败感和焦虑感。 11%的研究参与者感到非常不适，以至于他们甚至无法在研究中完成一天，导致他们的任务不完整。 科堡大学、剑桥大学、滨海边疆区大学和微软研究院的研究人员最近进行的一项研究描绘了这个问题，这份题为“量化在VR中工作一周的效果”的报告比较了16名不同员工在每周工作40小时的正常环境和普通虚拟世界设置中开发任务的表现。 结果大多是负面的，暗示今天的虚拟世界可能仍然过于有限，无法支持基于工作的应用程序。
【ChinaJoy：CJ Plus将在MetaJoy元宇宙数字世界中举办】
据ChinaJoy官方消息，2022年ChinaJoy线上展（CJPlus）将于8月27日至9月2日在MetaJoy元宇宙数字世界中举办，所有玩家均可免费参与，只需注册、登录即可获得限量版ChinaJoy纪念币数字藏品，以及不同企业、不同活动发售的数字藏品，还可以通过购买和交换的形式收集各类数字藏品。
【国美涉足元宇宙：定为最重要战略，已招揽人才成立项目组】
近日，国美已将元宇宙定为最重要的战略方向，元宇宙项目总负责人已于6月入职，正积极招揽人才。 一位知情人士对记者表示，该元宇宙项目或将于7月初部分上线。 另外，来自职场社交平台脉脉的公开信息显示，上述元宇宙项目业务范畴包括元宇宙世界、元宇宙电商、数字人、虚拟偶像、数字藏品等。 对此，国美方面回应称，公司确实在做元宇宙方向的初步尝试，真快乐App即将推出元宇宙功能。
【毕马威美国和加拿大团队推出元宇宙协作中心】
国际四大会计师事务所之一毕马威（KPMG）的美国和加拿大业务部门在元宇宙推出协作中心，旨在帮助其客户制定元宇宙领域的战略。 一位发言人表示，这个私人中心是其员工、合作伙伴和客户进行虚拟团队会议和分享想法的地方。 他们还将能够在元宇宙中进行培训课程、工作面试和员工评估，以及展示毕马威服务和功能的会议。 毕马威加拿大数字总裁兼管理合伙人Armughan Ahmad表示，“元宇宙让我们有可能体验现实世界和数字世界相融合的‘phygital’世界。 元宇宙提供价值13万亿美元的市场机会，到2030年将拥有多达50亿用户。 ”毕马威在美国和加拿大的业务部门已经组建一支拥有技术和创新经验的专业团队，为元宇宙设计、NFT用例、加密资产、社区互动和更广泛的Web3集成提供支持。
【Immutable宣布推出5亿美元风投基金以促进Web3游戏采用】
6月17日消息，以太坊NFT扩容方案提供商Immutable宣布推出5亿美元风投基金以促进Web3游戏采用。 这笔资金将用于资助在其L2扩展平台Immutable X上构建Web3游戏和NFT的项目。 此外，该基金还将与其他专注于Web3游戏和NFT的投资者合作，包括BITKRAFT、Animoca Brands、Arrington Capital、Double Peak、Air Tree、King River Capital和GameStop，以获得更多投资机会。
【Axie Infinity计划资助200名创参加Nas Academy的新创学院】
NFT游戏Axie Infinity计划资助200名创参加Nas Academy的新创学院，帮助Axie创能够将内容提升到一个新的水平。 这所培训学校是由Nas Academy专门为Axie Infinity社区成员设计，与QU3ST运营的Axie Creator Program独立但互补，目前报名已开放，将于7月20日结束。
本周新闻一览
2019年AI人工智能领域都发生了什么？
2019 年无疑是忙碌的一年。 人工智能的进步和新闻频频登上头条新闻，让我们的生活充满了敬畏和自豪的时刻，但一些其他时刻充却斥着一种恼人的想法，那就是这项技术让人们发现，我们的社会并没有准备好迎接人工智能的普及。
2019 年，究竟是人工智能进步的一年，还是幻灭的一年呢？随着研究人员攻城略地，迅速攻克以前难以企及的基准，今天，我们可不可以这样认为，这个领域已经正在步入稳步发展的轨道呢？
在 ADSP（Applied Data Science Partners，意即“应用数据科学合作伙伴”）网站上，我们想后退一步，把 2019 年的人工智能界发生的事件整理好，以让公众能够有个全新的视角。 在聚光灯下，重要的是要将一项工作最初吸引人们的兴趣，与它的实际重要性，以及它对该领域产生的影响区分开来。 为此，本文将展开人工智能故事的平行线索，并试图分离出它们的意义。 多亏了我们出色的内容作家 Elena Nisioti，她将这些故事讲得如此精彩！
让我们坐下来，一起回顾 2019 年的人工智能领域的方方面面。
处在文艺复兴时期的领域如果让我们用一句话来描述 2019 年的人工智能现状，那很可能是：“强化学习（Reinforcement Learning ）回归，看起来将永存”。
到目前为止，我们中的大多数人可能已经熟悉了监督式学习（Supervised Learning）：有些人收集了大量的训练数据，将它们馈送到机器学习算法中，然后得到一个模型，这个模型可以为我们进行预测和分类。 我们中的一些人甚至可能有这样的印象：即，人工智能就是监督式学习的同义词。 然而，监督式学习只不过是我们今天拥有的 众多类型的机器学习 中的一种罢了。
在强化学习（Reinforcement Learning，RL）中，智能体用试错的方法，通过与环境进行交互来学习，这种环境会给它们的行为提供奖励回报。 当涉及到多个智能体时，它们被称为多智能体强化学习系统（Multi-agent Reinforcement Learning System）。
这个领域已经存在几十年，从概念上来讲，它听起来比监督式学习更像是一种合理的创造智能的学习机制。 然而，直到 2015 年，DeepMind 才获得了人们的关注，当时 DeepMind 使用深度 Q 学习（Deep Q-learning）创建了 Atari（雅达利） 游戏的智能体，这是一种结合了经典强化学习算法和深度神经网络的算法。 2018 年，OpenAI 也通过 解决 Montezuma’s Revenge（一款被认为难度特别高的 Atari 游戏），从而在这一领域确立了自己的地位。
在过去的几个月里，事态升级了：
这些工作重新唤起了学术界对强化学习的信念，在过去，人们曾经认为强化学习效率低下，过于简单，无法解决复杂的问题，甚至连游戏的问题也不能解决。
今年，另一个大受欢迎的应用是自然语言处理（Natural Language Processing，NLP）。 尽管研究人员在这一领域工作了几十年，但近些年的自然语言处理系统生成的文本听起来还是不够自然。 自 2018 年底以来，人们的注意力已经从过去的词嵌入转移到预训练语言模型，这是自然语言处理从计算机视觉中借鉴来的一种技术。 这些模型的训练是以非监督的方式进行的，这使得现代系统能够从互联网上的大量文本中进行学习。 因此，这些模型变得“博闻强识”，并发展出了理解上下文的能力。 然后，可以通过监督式学习进一步提高它们在特定任务上的表现。 这种通过在不同任务上训练机器学习模型来改进模型的做法，属于迁移学习（transfer learning）的范畴，被认为具有巨大的潜力。
自去年 Google BERT、ELMo 和 ulmfit 等系统在 2018 年底推出以来，自然语言处理一直风头正茂，但今年的聚光灯被 OpenAI 的 GPT-2 给“夺走了”，它的表现引发了人们对 自然语言处理系统的道德使用的大讨论。
实践走向成熟今年，人们也见证了最近一些深度学习技术走向成熟。 应用监督式学习，特别是计算机视觉技术，已经催生了现实生活中成功的产品和系统。
生成对抗网络（Generative Adversarial Networks，GAN）是一对神经网络，其中，生成器网络试图通过学习生成模仿训练数据的图像来欺骗判别器网络，现在已经达到了近乎完美的水平。 对人工智能来说，创造虚假但又逼真的人物和物体的图像，已经不再是前沿领域了。 从 2014 年生成对抗网络的引入 到 2019 年 NVDIA 开源的 StyleGAN，一图胜千言，我们用下面的图片来说明，这可能是理解该领域进展情况的最佳方式：
2019 年，人工智能创造的艺术品甚至脱离了过去几年的假设性讨论，成为了今天 博物馆装置和拍卖 的一部分。
计算机视觉还被应用于一些具有重大商业和社会意义的领域，包括自动驾驶车辆和医学。 但是，人工智能算法在这些领域中的应用自然是缓慢的，因为它们直接与人类生活直接互动。 至少到目前为止，这些系统还不是完全自主的，它们的目的，在于支持和增强人类操作员的能力。
研究团队正与医院密切合作，开发用于疾病早期预测的人工智能系统，并整理大量的健康数据档案，其中一个值得注意的例子，是 DeepMind Health 和 UCLH 之间正在进行的合作。 然而，这些工作中的大部分仍处于试验阶段，迄今为止，唯一获得 FDA 批准的人工智能系统是 SubtlePet，这是一款使用深度学习增强医学图像的软件。
沉睡的巨人AutoML是机器学习的子领域之一，自 20 世纪 90 年代以来就一直存在，在 2016 年引起了人们的极大兴趣，但不知何故从未登上头条新闻，至少不像其他人工智能趋势那样。 也许这是因为它并不那么花哨的性质：AutoML 的目的是通过自动化决策来使机器学习的实践更有效，而今天数据科学家是通过手动、蛮力调优做出的决策。
在过去三年中，我们对这一领域的理解已经发生了变化，今天，大多数大公司都提供了 AutoML 工具，包括 Google Cloud AutoML、Microsoft Azure、Amazon Web Service 和 DataRobot 等。 今年，随着 学习进化人工智能框架（Learning Evolutionary AI Framework，LEAF）成为最先进的人工智能技术，人们的兴趣转向了“进化”（Evolutionary）方法。 然而，AutoML 还没有达到可以让一个完全自动化的人工智能系统比人工智能专家团队执行更好的成熟水平。
对人工智能的担忧尽管取得了压倒性的成功，但今年人工智能领域也给我们带来了一些令人沮丧的故事。 其中主要问题之一是机器学习模型中的偏见，这一问题直到 2018 年才显现出来，当时 Amazon 发现他们的 自动招聘系统中存在性别偏见，而美国法院广泛使用的判决工具 COMPAS 也被发现存在性别和种族的偏见。
今年案件的数量有所增加，这可能表明，公众和机构对用于自动化决策的现有人工智能系统越来越怀疑。以下是图景的一小部分：
今年 10 月份，某医院的算法被发现对黑种人患者存有偏见。 去年 10 月，某人权组织指责用于发放英国签证的人工智能系统存在种族偏见。 今年 11 月，Apple 的信用评分系统被客户指责存有性别偏见。偏见是一个特别令人担忧的问题，因为它位于监督式深度学习的核心中：当有偏见的数据被用于训练，且预测模型无法解释时，我们不能真正判断出是否存有偏见。 迄今为止，学术界的反应一直是致力于开发技术，以了解深度模型决策背后的原因，但专家警告称，如果我们采用正确的实践方法，那么许多问题都可以迎刃而解。 Google Cloud Model Cards 是最近的一次尝试，旨在使组织社区走向开源模式，同时明确描述其性质和局限性。
今年另一个让人担忧的发现是，当一项技术变得越复杂时，它被滥用的可能性就越大。 Deepfake就是生成对抗网络的阴暗面，深度学习算法被用来在纯粹虚构的场景中创建涉及真实人物的图片或视频。 人们不难看出，这项技术如何被用于传播虚假新闻，从政治宣传到欺凌。 这个问题单靠科学家是无法解决的，历史已经证明，科学家并不善于预测他们的发现对现实生活的影响，更不用说控制它们了，这需要社会各界进行广泛的对话。
今天的人工智能有多强大？如今，要量化人工智能的价值真的很困难。 但有一点是可以肯定的：人工智能已经脱离了科幻小说和前卫计算机科学的领域，现在，人工智能已成为社会不可分割的一部分，人们对人工智能进行了大量的投资。
今年早些时候，三名主要的深度学习研究人员获得了图灵奖，这是对人工智能作为计算机科学的一个领域的认可，而人们对此期待已久。
