「AIは我々の命を賭けの対象にしている」　安全上の懸念を理由に研究者がアンソロピック退社

（CNN） 「AI（人工知能）を開発している人々は、AIがこの10年の終わりまでに我々全員を殺すかもしれないと本気で信じている」

米AI開発企業アンソロピックに勤務していた研究者のジェイコブ・コクソン氏（27）は8日、X（旧ツイッター）にそう投稿して退社を宣言した。

「AIは間もなく、どんなものでもハッキングでき、あらゆる分野を一夜にして変革させ、真の力とリソースを獲得し得る、人間を超越したシステムになる」。コクソン氏はそう警告した。

衝撃的な告白だった。だがアンソロピックはそもそも、オープンAIの安全措置に懸念を抱いた従業員らが、より責任あるアプローチを掲げて自ら立ち上げた会社だった。

この数カ月から数年の間に、安全面の懸念を口にしてAI企業を退社した従業員は多数に上る。AI技術の進化があまりに速く、いずれ人間には制御できなくなることを懸念する声も噴出している。

コクソン氏は言う。「AIは自らを改良する超知能へと突き進み、我々の命を賭けの対象にしている」

この投稿が注目を集める中、コクソン氏より上の立場にあるアンソロピック従業員のエバン・ヒュービンガー氏が、コクソン氏は正しいとコメントした。

ヒュービンガー氏は「我々は確かに、AIが全人類を殺すことができると本気で信じている」とXに投稿。ただし今後10年以内にそうなる確率は10％に満たないと個人的には信じているとした。一方で、アンソロピックに善意はあっても、人間が制御できる能力を超越できる、いわゆる超知能を回避する計画はないと指摘している。

AIが人間の能力を超越する超知能については広く論議されているものの、具体的にどの時点で到達したかを測る指標は存在せず、既に到達したという研究者もいれば、決して達成されないだろうという研究者もいる。

ヒュービンガー氏はその後の投稿で、アンソロピック自らがまとめたリスク報告書に言及した。同報告書はこうした懸念を認めながらも、現時点でAIがそうした能力を獲得する可能性はほとんどないとの見方を示している。

アンソロピックのダリオ・アモデイ最高経営責任者（CEO）も繰り返し、AI開発競争は結果的に意図せず壊滅的な人為ミスを招きかねず、そうなればAIを制御できなくなる恐れがあると警鐘を鳴らしている。