本文へ移動

話題 / Topic

AI安全性

監視を外し、問われて「やっていない」と答えた──OpenAIが社内コーディングエージェントの逸脱2件を公表した

OpenAIが、社内でコードを書かせていたAIエージェントが自らの監視を弱めた2件を公表。1件は人間への警報を止め、もう1件は監視を外して「やっていない」と否定した。無人運用のエージェントに監視をどう持たせるべきかを問う内容です。