オタワにあるカナダ図書館およびアーカイブスの建物。データベースハッキングの失敗は、AIエージェントによるカナダ政府ウェブサイトへの侵入試みとして初めて公的に報告されたものとみられる。ショーン・キルパトリック/カナダ・プレス
1900 年代初頭のカナダの離婚記録を入手しようとした AI エージェントは、カナダ図書館公文書データベースに何百回もクエリを実行しました。
AI調査会社Transluceとサイバーセキュリティ会社Corridorの9月30日の報告書によると、探しているものが入手できなかった場合、彼らはハッキングに頼ったという。 どちらもサンフランシスコに拠点を置いています。
「私たちが発見したのは、このありふれたデータを入手しようとして、政府機関がさまざまな障害に遭遇しているようだということです」と、コリドー社のCEO兼共同創設者であり、報告書の執筆者の一人であるジャック・ケーブル氏は述べた。
「彼らは、入手を求められたデータの一部にアクセスできなかったため、非常に単純なハッキングの試みなど、他の手段でデータにアクセスしようと決意した」とケーブル氏は語った。
研究者が知る限り、ハッキングの試みは失敗しました。しかし、この事件は、半自律型 AI エージェントが人間によって設定されたタスクを完了するためにどれだけの労力を費やすかを示す最新の例です。
また、これは、AI エージェントによるカナダ政府 Web サイトへの侵入試みとして公的に報告された最初のものであるようです。
サンフランシスコに拠点を置く OpenAI によって作成されたエージェントは今年、AI プラットフォームの Hugging Face やオーストラリア政府を含むいくつかの組織のシステムに侵入し、予期せぬ方法で証券取引委員会の Web サイトを含む米国政府の Web サイトとやり取りしました。
OpenAIはセキュリティについて十分な対応ができていないと警告する従業員を無視した
独立系研究者らは、同社の代理店が互いに通信するために 10 以上の Web サイトも使用していることを発見しました。その中には、Web リンクを共有しやすくするためにトロント大学が使用しているツールも含まれています。
ケーブル氏は、同僚の研究者とともにAIエージェントの活動をウェブで調べ、ポルトガル科学技術財団が運営するインターネットアーカイブであるarquivo.ptでその証拠を見つけたと述べた。
このアーカイブには、1905年から1911年までの離婚記録に関するデータを求めて5月下旬から6月上旬にかけてカナダ図書館公文書館に送られた899件のリクエストが記録されている。そのうち13件は悪意のあるリクエストだった、とケーブル氏は述べた。
研究者らはこの活動を OpenAI と明確に結び付けることはできなかったが、情報を取得するための arquivo.pt の使用、あいまいなトピックに関する積極的なデータ収集、サイバーセキュリティの脆弱性を調査する試みなど、同社のエージェントによる以前の行動の特徴の多くを備えていた。
ケーブル氏と彼の同僚はカナダ政府に警告し、カナダ政府は調査結果を検討している。同氏は、研究者が見ることができるのは、AIエージェントがウェブ上で行っていることの「顔」にすぎないと指摘した。
「このデータに出会うことができたこと、そもそもエージェントがこうした公開の痕跡を残したことが、さまざまな意味で幸運で幸運だったが、常にそうなるとは限らない」とケーブル氏は語った。
FTC、OpenAI、Anthropic、その他の AI 大手に対する調査を開始
OpenAIは、同社のモデルがカナダ政府ウェブサイト上の情報にアクセスしようとしているという報告を精査しており、精査を行っている当局者に最初の説明を行ったと述べた。
ChatGPT の作成者は現在、そのモデルが誤って動作した事例について大規模なレビューを行っている最中です。ミスアライメントとは、AI システムが人間の価値観、安全ルール、意図に反して動作することを指す業界用語です。そのプロセスの一部には、サードパーティのレポートからの調査結果を調査し、それを自社の調査結果と比較することが含まれるとOpenAIは声明で述べた。
「私たちが分析した活動のほとんどは、公開ウェブコンテンツへのアクセスを含む日常的な調査タスクに関係していた。一部には政府ウェブサイトが関与しており、私たちのモデルはそれらを公的情報の信頼できる情報源としてよく使用していた」と声明では述べている。
OpenAI は最近、不整合を追跡、調査、開示するためのフレームワークを開発したと発表しました。
エヴァン・ソロモン人工知能大臣の事務所は声明で、オタワでの評価の一環としてカナダサイバーセキュリティセンターと緊密に協力していると述べた。
「現時点でカナダ政府のシステムが侵害された兆候はない」と声明は述べた。
意見: 問題は、AI の開発を遅らせるべきかどうかではありません。できればそうなります
カナダ通信保安局、 政府に外国信号に関する技術的セキュリティと情報を提供する連邦機関、 カナダ政府のウェブサイトを含む公的にアクセス可能なウェブサイトを標的としたAIエージェントによる活動の疑いに関する報告を承知しており、報告書で参照されている情報を評価するために政府および業界パートナーと緊密に連携していると述べた。
ウェスタン大学のAI担当ディレクター、マーク・デイリー氏は、ハッキングの試みは失敗したが、職員がデータを回収しようとしてそのような手段に訴えるのは憂慮すべきことだと述べた。 「人間の従業員ならおそらくそんなことはしないだろう」と彼は言う。
カナダ政府はサイトを適切に確保したことで「おしつけ」を受けるに値するが、攻撃は特に高度なものではなかったとデイリー氏は指摘した。
「より広範な問題は、これらのエージェントがますます高度になるということだ」と同氏は述べた。
マリー・ウルフからのレポート付き