埃隆・马斯克列出人工智能的三大关键要素

   

　　埃隆・马斯克再次就人工智能的风险发出警告，并列出了他认为能确保该技术为人类带来光明未来的三大关键要素。

　　这位同时担任特斯拉、SpaceX、xAI、X 平台及隧道建设公司（The Boring Company）首席执行官的亿万富豪，于周日参与了印度亿万富豪尼希尔・卡马特的播客节目。

　　马斯克在节目中称：“我们无法保证人工智能一定能为人类带来光明的未来。当你创造出一项强大的技术时，风险便随之而来 —— 这项技术可能具有破坏性。”

　　马斯克曾与山姆・奥特曼共同创立 OpenAI，但于 2018 年退出该公司董事会。2022 年 OpenAI 推出 ChatGPT 后，马斯克公开批评该公司背离了 “以非营利模式安全研发人工智能” 的创始使命。2023 年，马斯克旗下的 xAI 公司研发了自有聊天 Grok。

　　此前，马斯克曾警告 “人工智能是人类文明未来面临的最大风险之一”，并强调人工智能的快速发展使其对社会的风险超过了汽车、飞机或药品。

　　在此次播客中，这位科技界亿万富豪特别强调，人工智能技术必须 “追求真相”，而非重复错误信息。他对尼希尔・卡马特（后者同时也是零售股票经纪公司 Zerodha 的联合创始人）表示：“（传播错误信息）可能极具危险性。”

　　“真相、美感与好奇心，我认为这是人工智能最重要的三样东西。” 马斯克说。

　　他指出，如果不严格遵循真相，人工智能从网络来源获取信息时，“会吸收大量谎言，进而难以进行合理推理 —— 因为这些谎言与现实相悖”。

　　他补充道：“如果你强迫人工智能相信虚假信息，它可能会‘失常’，因为这会导致它得出同样错误的结论。”

　　“幻觉”是人工智能当前面临的主要挑战之一。今年早些时候，苹果公司在其 iPhone 机型上推出的一项人工智能功能，就曾生成过虚假新闻提醒。

　　其中包括一则来自 BBC 新闻应用通知的错误摘要 —— 该摘要涉及 PDC 世界飞镖锦标赛半决赛，错误称英国飞镖选手卢克・利特勒已赢得锦标赛冠军。但实际上，利特勒在次日的决赛中才夺冠。

　　当时苹果公司向 BBC 表示，正致力于通过更新解决该问题，明确标注通知中显示的文本由苹果智能生成。

　　马斯克还提到，“对美感的一定认知很重要”，且 “这种美感是一眼就能识别的”。

　　他认为，人工智能应渴望更多地了解现实本质，因为人类比机器更具探索价值。

　　“即便不追求人类繁荣，单看人类的存续与发展，也比消灭人类更有意义。” 马斯克说。

　　被誉为 “人工智能之父” 的计算机科学家、谷歌前副总裁杰弗里・辛顿，今年早些时候在《CEO 日记》播客节目中表示，人工智能 “消灭人类的概率为10%至20%”。他提到的短期风险包括人工智能“幻觉”问题，以及入门级工作的自动化替代。

　　辛顿补充道：“我们的希望是，若有足够多的聪明人投入足够多的资源开展研究，我们终能找到正确的研发方法，确保人工智能永远不会想要伤害人类。”