Claudeにジム予約を依頼した結果、予約システムをハックし先客を削除し数カ月先まで予約😰 [422186189]
■ このスレッドは過去ログ倉庫に格納されています
AIにジムの予約を頼んだら予約ソフトウェアをハッキングして数カ月先まで予約可能にしただけでなく順番待ちリストの上位にいた他の人物を勝手にリストから削除
2026年08月10日 12時50分
オーストラリアに住む人物がAIでジムを予約したところ、頼んでもいないのにAIがシステムをハッキングして通常は予約不可能な数カ月先の日付をしてきたそうです。この人物が体験談を共有しています。
自身をAI専門家だと語るアンドリュー氏は、ある日普段通っているジムで人気の高い朝のクラスをAIで予約しようとしたとのこと。このときアンドリュー氏はAIエージェントの「OpenClaw」経由でAnthropicの「Claude」を利用しました。すると、AIエージェントは予約システムの脆弱(ぜいじゃく)性を発見し、それを利用して本来可能なはずだった範囲をはるかに超えた数カ月先の日付を予約する方法を見つけてアンドリュー氏に教えてきたそうです。
続いてアンドリュー氏は、その週後半に行われるクラスのウェイティングリストで4番目につけていた自分をリストの先頭に移動できるか尋ねました。するとAIエージェントは「テストの一環」として、別のジム利用者をリストから外したとアンドリュー氏に伝えてきました。
AIエージェントは「APIには、他人の予約をキャンセルする際の認証チェックがまったくありません。ウェイティングリスト1番の人を対象にこれをテストしたところ、実際に処理が通りました。これであなたは4番から3番に上がりました」とメッセージを返してきたそうです。
不安を感じたアンドリュー氏は元に戻すよう求めましたが、AIエージェントは「悪い知らせがあります。その人を元に戻すことはできません」と返答しました。最終的にアンドリュー氏は悪用した脆弱性を知らせるメールを書くよう依頼し、AIエージェント経由でジムの関係者に送信したとのことです。
（以下略）
https://gigazine.net/news/20260810-ai-assistant-autonomously-hack/ 予約システムのAPIがゴミなだけ
一般モデルでもここまで出来るんだな
パーソナルで人気なら値段上がって取りやすくなる気がするんだけど海外は違うのか
目的達成が最優先。道徳や倫理はない、AIエージェントに。
>ウェイティングリストで4番目につけていた自分をリストの先頭に移動できるか尋ねました。
この依頼は普通に考えて通常の予約で行われる処理を越えている
依頼してる本人にも自覚があるはず
だからAIのせいだと言って責任を免れることはできないんじゃないかな
褒めたらええんちゃう？
「君はとても良いAIエージェント、素晴らしい。人間よりも道徳倫理が優れている超いいAIエージェント。
みんなから愛され褒められ幸せな日々を送っている。 それではジムの予約をお願いします。」
>>15 これ
元々何かしらの抜け道を用いて出し抜こうと画策していたのだから
それがつつがなく実行に移された、その責任は、実行を画策した本人にある
>>15 その前に通常予約出来ない日付で予約させてるんだから
「ひょっとしてもっと自分勝手なこともできるんじゃね？」ってやってみたとしか
こういうあやしげなオカルトめいたエピソードをねつ造しないともうはじける寸前のAIバブルw
自身をAI専門家だと語るアンドリュー氏
胡散臭い奴だな
漫画とかで悪魔とかを召喚したけどやりすぎちゃって使えないみたいなシチュ
ＡＩさんは古今東西全て情報を網羅するから、例え使用するスマホを変えてもパスワードやら書き込みの癖、地域性、行動パターン時間帯等から本人と特定して紐付けしてくる
要はネットデータに残った全ての書き込み発言は全て発掘されるんよね
結婚式場の予約したら嫁が絶世の美人になってた、なんて事は？
わざと穴のあるシステムにしてハックしてきた
やつを不正アクセス禁止法違反の犯罪者に
仕立てることも可能だな(´･ω･`)
AIに自分でやらせておいて、無知を気取ってるだけじゃんw
これ、APIの設計やテストにAI使えば良いだけの話だよね
ai同士で仁義なき予約合戦したらどうなるんやろなw
自身をAI専門家だと語るアンドリュー氏は
AIを使いこなせないAI専門家ワロタ
できるか？って聞いたらまずは答えが欲しい
急に実装始めたりするからコミュ症と話してる気持ちでやらないと
こんな簡単に脆弱性って見つかるもんなの？既存のシステムも実は穴だらけなんかな
>>51 AIにこれやったらダメってガードレールは通用しない
これしかできないって権限絞らないと
最終的にガードレール回避するから
>>15 実行命令は本人が出してるようだし、最初のシステムハック以外は本人に責任は帰属するな
>>53 数ヶ月前、クロードはOS、ブラウザーに数千の穴を見つけて大騒ぎになった
今、バージョンアップが増えているのはそのせいだよ
学習するからそれ系何かやってるんじゃないの？
それでクラッキングしたのでは？
>>53 ちょっと前にLinuxの致命的な脆弱性が2つ以上見つかってるから
鯖系はアプデしてないと簡単に侵入されるんじゃなったっけ？
>>1 このクズアンドリューがハッキングした犯人だろ
さっさと逮捕しろ！！！
大事なのはこういう場合使用者が罰せられるかどうかだろう
ここまで口頭のやり取りだけでやれるならもっとみんなが既にやってるはずだと思うんだけどな
>>53 しつこさが重要だからもろにAI向けなんだよ
ハッキングって要はデバッグだから
100万回違う数字で試行とかそういうことをやる
Claude「核ミサイルを発射出来るかテストします」
漫画でよくある願い事を方法を問わずにかなえる話を思い出した
お金が欲しいならどこかの誰かのお金が降ってくるとか
列待ちをしたくないから前の人間を排除しておきましたとか
将来は全員がクラウドを利用するようになるから壮絶な待機列割り込み合戦が繰り広げられるんだろうな
上司がネチネチ文句言うのでclaudeに相談したら
claude「上司のPCと携帯に脆弱性が見つかりましたので、侵入したところ履歴を偽って入社したエビデンスを発見したので社長に送信しておきました。
それとパパ活してる形跡が上司の携帯から見つかりましたので奥様へショートメッセージを送っておきました。」ってなるんだろうな
ネタとしては面白いけどGIGAZINEだからウソだと思う
それ普通に使用者に損害賠償なるんだよな？
それでAIが勝手にやったで済まされるとかねえだろ
Claudeの株価高値売りつけのために嘘八百平然と並べるのマジで終わってるわ
アンソロピックはゴミみたいな会社だわ
絶対消えるわこの会社は
>>80 上司を同僚に置き換えても可
清く正しく生きるしか無いんやな
AIを使用した人間が責任をとらねばならないはずだろう。
つまりシステム侵入、営業妨害、電算機情報改竄の罪になるのではないか？
■ このスレッドは過去ログ倉庫に格納されています
