【AI行业研报】人工智能带来“黑盒风险”？

^{作 者 | BT财经}

^{来 源 | 瑞银}

 

 

2023，我们见证了ChatGPT为人工智能（AI）带来了“iPhone时刻”，ChatGPT将生成式人工智能这项技术直接推向了公众的视野中。虽然人们的参与和对人工智能的兴趣可能是全新的，但人工智能领域的底层技术已经发展了几十年了。在最近的瑞银私企展示会（UBS Private Company Showcas）上，领先的行业公司展示了人工智能领域的这些创新，是如何推动全球经济几乎所有领域的转型的。

 

对于企业来说，人工智能在提高效率、提高生产力和加强各职能部门决策方面的潜力是毫无疑问的。现在对于人工智能的不确定性则主要围绕着其实用性问题——其中包括采用路线图、组织影响、潜在的货币化策略以及如何更好地吸引利益相关者并展示人工智能投资的价值。

 

瑞银邀请了金融和医疗等领域的领先公司，相关企业决策者讨论了在人工智能的影响下将发生什么样的变化、市场是如何发展的，以及小型人工智能公司如何在与谷歌和微软等巨头竞争的同时扩大规模并建立市场份额。

 

 

人工智能究竟是什么？

 

 

人工智能是一门利用计算机模拟人类智能行为科学的统称，它涵盖了训练计算机使其能够完成自主学习、判断、决策等人类行为的范畴。例如，人工智能的图像识别，模拟的是人的视觉能力，语音识别模拟的是人的语言表达能力等等。

 

 “人工智能”并不属于一门单独的技术，该技术属于交叉学科，同时可以跟各个行业进行结合。

 

目前，人们在不同地方所看到的像自动驾驶、工业机器人、智能翻译、人脸识别等均属于人工智能的应用场景，这些都是已经结合了产品后完成的人工智能应用。

 

此前火爆全网的ChatGPT是一种基于人工智能技术的聊天机器人，可以通过自然语言处理和机器学习算法来实现对话交互功能。ChatGPT采用了先进的语言模型技术，能够理解和生成自然语言，并根据用户输入的问题或指令提供相应的回答或操作。

 

 

 

 

专用模型（specialist model）

还是通用模型（generalist model）？

 

 

ChatGPT和谷歌的Bard之所以能引起公众的共鸣，很大程度上是因为它们的功能就像在WhatsApp或Slack上与同事的对话那样。另一个原因是这些生成式人工智能模型是通用模型。它们被吹捧为能够帮助人们完成几乎全部任务。但是，在大量广泛的数据集上进行训练，会影响它们产生真实结果而不产生幻觉。对于高度监管的行业，目前看来通用模型的风险太高。

 

对于企业来说，专用的分析型人工智能模型的价值可能要大得多。经过专业的数据训练，这类模型能够更好地分析、解释和创建高度特定于行业或流程的内容。例如，在制药领域，专门的人工智能已经在帮助确定新疗法或新药的目标人群，使得药物项目的语言标准化，并帮助决策者对庞大的数据池产生更清晰的认识。

 

 

“黑盒（black box）”风险问题

 

 

如果人工智能企业未来研发出涉及专用人工智能模型的生态系统，而不是用于所有功能的通用模型，我们可能会看到大量的人工智能供应商、不同模型和服务产品出现。企业将面临选择，究竟是购买预训练模型？还是训练自己的模型？或者利用基于预训练模型的服务等等。

 

“黑盒”解决方案可能会快速跟踪效率，但也会导致一些人工智能模型的输出缺乏透明度。这是因为在“黑盒”解决方案中，人工智能的内部工作原理对最终用户来说是不可见的。对于金融和保险等受到高度监管的行业来说，这可能会带来重大的合规风险。这些领域的企业必须拥有自己的模型，并能够展示其有效的模型风险分析和管理措施。 

 

 

解决实际问题是成功的关键

 

 

在人工智能发展过程中，一个问题会反复出现：小公司和初创企业如何与科技巨头进行竞争？无论是基础设施、医疗保健、企业决策还是金融服务，都将出现类似的核心主题。

 

以同样的方式，专用模型可以提供更好的准确性和相关性，解决现实生活挑战的用例可以迅速获得市场份额。创造出真正的价值是一个关键的区别。我们可以看到一些例子：

 

• 一款帮助人们即时评估症状的“口袋里的医生doctor in your pocket”应用程序目前有1300万次下载量。经过医生的培训，这款应用正在帮助全科医生解决问题。

• 一项教育计划，旨在为非洲学生提供平板电脑，让他们能够接触到一对一的人工智能导师，帮助他们扩大学习范围。

• 一项解决方案为全球2000多个城市的运营商设计公交路线、分配司机并制定时间管理表。

   

   

除了能够在利基领域展示真正的价值外，企业还需要证明，他们的模型不仅是根据自己的数据进行训练的，而且还可以扩展以满足多样的需求。再加上小公司往往更具有的创新和敏捷性，这类初创企业在拥挤的人工智能市场竞争的清晰蓝图将不断浮现。

 

 

最高管理层C-suite 2.0

 

 

人工智能也开始影响企业高管们制定未来决策和战略的方式。即时访问更广泛的数据池将可以为企业提供更有效地识别组织内技能差距、评估风险和推动组织变革的机会。例如，首席财务官将能够更容易地确认企业各个层面的决策与财务绩效之间的关系。

 

 

扩展企业

 

 

对于人工智能革命，现在不是“会不会到来”、“什么时候到来”的问题了——它已经出现在这里了。

 

在全球经济发展过程中，企业正在创造性地思考如何利用人工智能技术来武装他们的熟练劳动力，帮助理解大量数据，并更快地将洞察力转化为行动。

 

未来几年，人工智能市场的演变将会越来越快，我们将看到专用模型与通用模型巨头们互相争夺市场空间。最终，脱颖而出的将是那些能够展示人工智能真正价值、数据分布和规模的公司。

 

 

^{文章系作者个人观点}

^{如有疑问及任何意见反馈}

^{可直接在评论区留言或发送邮件到}

^{btimescaijing@163.com}