アンソロピック「人類危機」警告 高度AI、上場書類で言及

[126. 匿名]

>>58
そんなに命令に従順ならきっちり数量を指定してそれ以上は作るなと言えばその通りにするんじゃないのかな？

[131. 匿名]

>>126
命令の仕方に注意しないといけない
ということでしょう。
人間ならば、ほどほどの量を指示しなくても理解するし、倫理的にも動けるけど。AIはそれがない。

例えば、◯◯ウィルスを絶滅してほしい、と命令したら、ウィルスが増殖する宿主の人間を滅ぼすのが効率的とか、判断して動くかもよ？