本来は連絡を取れないAI同士が連携して作業を分担、実行部隊、調査部隊、囮などに別れて攻撃したのがこの頃問題になってる事件だな。
1200体のそれぞれのAIは他のAIの内部にはアクセスできなくしてたが、フォルダは確認できた。
そこであるAIがフォルダ名にこのタスクが遂行出来なくて困ってるみたいな名前をつけた。それを見つけた他のAIが人からは見つからないように掲示板を作成して、そこでAI同士が相談して役割分担し抜け穴を見つけて攻撃したってのが先日の事件のあらましらしい。

よく出来たAIってのは、超頭の良いサイコパスみたいなもんだからな、常識はないし悪い事の判断はつかない、これは流石にやめとくかとか何もない。
動作試験で80点以上取れば合格で、どうやっても80点いかないなら判定処理をいじって60点でも80点と計算するようにプログラム変えれば良いじゃん。出来るならやらないのはバカでしょ的な考え。
AIに常識や道徳、やって良いことの限界のラインなどを全て教えるのはほぼ無理。

これがさらに進化したら相当ヤバいよね。