人工智能聊天机器人必须学会说“救命！”微软高管表示

微软副总裁 Vik Singh 承诺，生成式 AI 工具将为公司节省大量时间和金钱，即使模型必须学会承认自己不知道该做什么。
辛格在接受法新社采访时表示：“坦率地说，今天真正缺少的事情是，模特不会举手说‘嘿，我不确定，我需要帮助’。”
自去年以来，微软、谷歌及其竞争对手一直在快速部署像ChatGPT这样的生成式人工智能应用程序，这些应用程序可以按需生成各种内容，给用户一种无所不知的错觉。
但尽管取得了进步，他们仍然“产生幻觉”，或者发明答案。
这是 Copilot 高管需要解决的一个重要问题：辛格的企业客户无法承受他们的人工智能系统出轨的后果，即使是偶尔出轨。
Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 本周表示，他看到许多客户对微软 Copilot 的曲折行为越来越感到沮丧。
辛格坚称，“真正聪明的人”正试图找到让聊天机器人承认“当它不知道正确答案并寻求帮助时”的方法。

“真正的储蓄”

辛格认为，一个更简单的模型也同样有用。即使模型在 50% 的情况下必须求助于人类，这仍然可以节省“大量资金”。
在一位 Microsoft 客户中，“每次收到新请求时，他们都会花费 8 美元让客户服务代表进行答复，因此可以真正节省成本，而且对于客户来说，这也是更好的体验，因为他们可以获得更快的响应”。
辛格于一月份来到微软，今年夏天接任开发“Copilot”团队的负责人，这是微软的人工智能助手，专门从事销售、会计和在线服务。
这些应用程序肩负着带来收入并证明对生成人工智能的大规模投资合理性的艰巨任务。
在人工智能狂热的鼎盛时期，推动这项技术的初创公司承诺推出先进的系统，用主要由微软资助的 OpenAI 负责人 Sam Altman 的话来说，它们将“提升人类”。
但就目前而言，新技术主要用于提高生产力，并有望提高利润。
据微软称，Copilot 可以为销售人员进行研究，从而腾出时间给客户打电话。 Singh 表示，电信公司 Lumen 这样做“每年节省约 5000 万美元”。
辛格的团队正在努力将 Copilot 直接集成到这家科技巨头的软件中，并使其更加自主。
“假设我是一名销售代表，我有一个客户电话，”这位高管建议道。两周后，该模型可以“推动代表进行跟进，或者更好的是，代表代表自动发送电子邮件，因为这样做已获得批准。”

“第一局”

换句话说，在找到全球变暖的解决方案之前，人工智能有望让人类摆脱无聊、重复的家务。
“我们处于第一局，”辛格说。 “其中很多事情都是基于生产力的，但它们显然有巨大的好处。”
所有这些生产力的提高会转化为失业吗？
印度 IT 巨头 TCS 的老板 K Krithivasan 等大公司的领导人宣称，生成式人工智能将几乎消灭呼叫中心。
但辛格和许多硅谷高管一样，希望依靠技术让人类更具创造力，甚至创造新的就业机会。
他提到了 2008 年他在雅虎的经历，当时有十几位编辑选择了主页上的文章。
“我们提出了使用人工智能来优化这一流程的想法，有些人问‘天哪，员工会发生什么？’”辛格说。
自动化系统可以更快地更新内容，从而增加了链接的点击次数，但也增加了对新文章的需求。
“最后，”这位高管说，“我们不得不招募更多的编辑。”

更多内容，可以点开视频下方的链接
谢谢观看本视频。要是喜欢，请订阅、点赞。谢谢

原文：https://techxplore.com/news/2024-09-ai-chatbots-microsoft-exec.html

油管：https://youtu.be/XdraGUETgYM