AI道德引热议 阿尔特曼：ChatGPT推出后夜难成眠

阿尔特曼说：“没有什么事比每天有数亿人与我们的模型对话更让我感到压力沉重了。”

OpenAI自2022年底推出ChatGPT，全球活跃用户上个月估计每周达7亿人次。

阿尔特曼说：“我们针对模型行为所做的那些极小的决策，可能只会让模型表现得稍微不同，因为有数亿人在使用，所以影响会被放大，变得非常、非常巨大。我并不是说我的角色是去做出道德决策，我认为自己的角色是确保我们能准确地反映人类的偏好，或者说，就目前而言，是我们用户群体的偏好。”

访谈中，阿尔特曼数度停顿思考该如何作答，似乎没有任何闪避空间。卡尔森询问ChatGPT被指控鼓励轻生、以及技术被用来执行杀人任务的争议。

美国加州一对夫妻近日在痛失16岁爱子后，对OpenAI提出告诉，指控ChatGPT不仅提供他们儿子钜细靡遗的自杀方式，还鼓励轻生。阿尔特曼说，这件事是悲剧。

卡尔森一度直言，“我只想试着深入你的内心，找出那个充满焦虑的阿尔特曼。”

阿尔特曼形容，自从ChatGPT推出以来，夜晚便没睡过一天好觉。轻生问题令人担忧。全球每周约有1.5万人轻生；假设其中10%是ChatGPT用户，就有1500名怀有轻生念头的人曾与聊天机器人对话，最终仍选择结束生命。

他说：“我们或许没能挽救他们生命，也许我们可以回答得更好，或更主动一点。”

阿尔特曼也透露，OpenAI在寻求一种机制，假使未成年用户认真与ChatGPT讨论轻生，系统无法联络他们的父母，可能会通报相关单位，然而这不是OpenAI的最终立场，因为这样做可能会与用户隐私产生冲突。

他说，ChatGPT不该支持或反对任何事情。