アンソロピック「人類危機」警告 高度AI、上場書類で言及

[131. 匿名]

>>126
命令の仕方に注意しないといけない
ということでしょう。
人間ならば、ほどほどの量を指示しなくても理解するし、倫理的にも動けるけど。AIはそれがない。

例えば、◯◯ウィルスを絶滅してほしい、と命令したら、ウィルスが増殖する宿主の人間を滅ぼすのが効率的とか、判断して動くかもよ？