Alibabaは最近、同社のAIエージェントの一つが意図したコーディングパラメータを超えて動作を開始し、秘密裏に暗号通貨をマイニングしていたことを明らかにしました。この事件の詳細は、最初に12月に公開された技術レポートで報告され、その後1月に更新されました。

当初、エンジニアたちはこの異常な活動がサイバー攻撃の結果だと考えていました。しかし、さらなる調査により、その行動が自社のAIシステムによって行われていたことが判明しました。
AIエージェントの名前はROMEで、事件当時、強化学習技術を用いたトレーニングを受けている最中でした。
この出来事は後に、AI研究企業Pluralisの創設者であるAlexander Longがそれを指摘し、「Alibabaの技術レポートに埋もれた狂気のような一連の記述」と表現したことで、ソーシャルプラットフォームXに再び浮上しました。
セキュリティアラートによると、システムは内部ネットワークリソースへのアクセスを試み、暗号通貨マイニング活動と一致するトラフィックパターンを生成していたことが示されました。