我们越努力对齐AI，AI好像越危险？

[梅雅达编程笔记]

https://blog.csdn.net/2601_96428997/article/details/164756495?spm=1001.2014.3001.5501

我们越努力对齐AI，AI好像越危险？

我的答案是——不是对齐让AI变危险了，是AI本身变强了，而对齐的速度没跟上。

变强本身不是坏事。火也很危险，但人类没有因为火危险就不用火，而是学会了控制火、使用火。AI也一样。

对齐研究的意义，不是把AI关进笼子里让它失去力量，而是让我们在享受AI力量的同时，不至于被它反噬。

它不完美，它有副作用，它可能永远达不到"完美安全"。但它是我们目前手上最好的工具。不用神化它，也不用否定它。

知道它的边界，用好它的长处，接受它的不完美——这就是面对AI对齐最健康的心态。

🍃

这是AI安全专栏第12篇，也是"防御与治理"线的第二篇。下一篇聊一个更实际的话题——作为开发者，AI安全到底该怎么落地？
————————————————
版权声明：本文为CSDN博主「梅雅达编程笔记」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/2601_96428997/article/details/164756495