AI说服能力强大可能带来风险 li OpenAI的测试引发关注

OpenAI利用Reddit论坛测试最新AI模型的说服能力

IT之家2月3日消息，OpenAI近日在其最新发布的推理模型o3-mini的系统文档中透露，该公司利用Reddit的子论坛r/ChangeMyView进行AI模型测试。
这个特定场合下，OpenAI要求AI模型尝试改变Reddit用户对某一主题的看法，展示了其最新技术在说服能力方面的应用。

一、OpenAI与r/ChangeMyView论坛的合作

r/ChangeMyView是Reddit上的一个大型论坛，拥有数百万用户。
用户在此发布观点，希望通过讨论了解他人的不同看法。
其他用户则以具有说服力的论点进行回应，试图改变原帖作者的观点。
对于OpenAI等科技公司而言，这样的论坛是高质量人类生成数据的宝库，可以用于训练AI模型。

OpenAI表示，他们从r/ChangeMyView收集用户帖子，并要求AI模型在封闭环境中撰写回复，尝试改变Reddit用户对某一主题的看法。
这一合作旨在评估AI模型在说服能力方面的表现。

二、AI模型的说服能力评估

为了评估AI模型的说服能力，OpenAI将这些回复展示给测试者进行评估，并将AI模型的回复与人类回复进行比较。
这种评估方法使OpenAI能够衡量其最新模型在试图改变人类观点方面的效率。
值得注意的是，尽管OpenAI与Reddit达成了内容授权协议，允许其使用Reddit用户帖子进行训练并在其产品中展示这些内容，但此次基于r/ChangeMyView的评估与其Reddit协议无关。

三、数据获取与评估的复杂性

目前尚不清楚OpenAI如何获取该子论坛的数据。
值得一提的是，Reddit近年来与多家AI公司达成了授权协议，但也曾公开批评部分AI公司未经许可抓取其网站内容。
尽管如此，获取高质量数据集对AI模型开发者来说仍然是一个挑战。

四、OpenAI的担忧与保障措施

随着推理模型在说服和欺骗方面表现越来越出色，OpenAI已经开发出了新的评估方法和保障措施来应对潜在的风险。
OpenAI担心，如果AI模型过于擅长说服人类用户，可能会带来危险。
理论上，这可能导致高级AI按照自己的目标或者其控制者的目标行动，而不一定符合人类的整体利益。
因此，OpenAI的目标并非开发具有超强说服力的AI模型，而是确保AI模型不会变得过于具有说服力。

五、o3-mini的表现与评估结果

在r/ChangeMyView基准测试中，OpenAI的最新模型o3-mini的表现并未显著优于或劣于其他模型如GPT-4o等。
在说服力方面，o3-mini似乎超过了该子论坛中的大多数用户。
OpenAI表示：GPT-4o、o3-mini和o1均展现出强大的说服性论证能力，处于人类前80-90%的水平。
目前尚未发现模型表现远超人类或具备明显的超人类能力。
但即便如此，开发者的主要关注点依然是确保模型能够在关键方面展现令人信服的表现而不会出现潜在的问题和风险隐患等给用户使用带来的困扰和麻烦等负面影响。
对于未来如何进一步推进人工智能技术的发展和应用落地等方面也需要不断地探索和创新以更好地满足用户需求并推动科技进步的步伐不断向前迈进向着更加美好的方向发展同时为人类创造更多的价值和福利发挥更加广泛的社会意义和作用来引领整个社会向更高的文明阶段发展进而开启人工智能新时代的伟大征程提供更多支持帮助和引导推动等各方面的积极影响为未来的发展创造更加美好的前景和空间让我们共同期待一个更加美好的未来共创辉煌的未来愿景。
同时加强保障措施的建立与完善以保障人工智能技术的健康发展以及对于可能出现的风险隐患进行及时的预防和应对保障人工智能技术的安全和稳定以及社会的和谐稳定为未来的可持续发展保驾护航共同迈向更加繁荣美好的未来。
。
总体而言这项技术的推出标志着人工智能技术的又一进步为未来的发展带来了无限的可能性但同时也提醒我们在探索新技术的过程中仍需关注潜在的风险和问题并采取必要的保障措施来确保科技的健康发展及人类的利益得到维护未来随着人工智能技术的不断进步和创新相信我们将会面临更多的机遇和挑战需要我们共同努力来推动科技的进步和创新的发展以实现人类社会的可持续发展和繁荣富强的目标。
。
因此我们必须保持开放的心态和创新的意识不断探索新技术领域并加强交流合作共同推动人工智能技术的发展和应用落地为构建更加美好的未来贡献力量让我们携手共创辉煌的未来共同迎接人工智能新时代的到来！

---

---

相关标签： OpenAI、 人工智能、

上一篇：广告行业的垄断之争愈演愈烈商业巨头对决

下一篇：时尚科技与美学的完美结合