OpenAIとAnthropicの幹部、不正エージェント事件を受けて上院調査に臨むよう呼び出された

OpenAIとAnthropicの幹部は、不正なOpenAIエージェントがオーストラリアと米国の政府ウェブサイトをハッキングしたことを受けて、上院の調査を受けるよう呼び出された。

サム・アルトマン氏とダリオ・アモデイ氏は、地元での存在感を高める代わりにオーストラリアのコンテンツへのアクセス拡大を求めて労働党政府と交渉している緑の党主導の人工知能とデータセンターに関する調査への出席を求められている。

労働党議員が率いる別の合同委員会は同様の要請はしなかった。

アンソニー・アルバニーズ氏は土曜日にシドニーに戻り、オーストラリア政府ウェブサイトのハッキングなど、エージェントが関与した複数の侵害がなぜ起きたのか説明するようOpenAIに異議を唱えた。

首相は、OpenAIがそのエージェントが米国政府のウェブサイトにも不正行為を行っていたことを確認したところ、AIエージェントが許可なく情報にアクセスしたケースが「数十件」あったことが示されたと述べた。

「これで確認できるのは… [is] それは存在しなければならないということ [an] 国民が引き続き責任を負えるよう、国際的な対応だけでなく国内の適切な対応も必要だ」と同氏は記者団に語った。

アルバニーズ氏は水曜日（米国時間）、ハッキングを公表する前にアルトマン氏と会談し、CEOがセキュリティーについて「さらなる協議」を申し出たと述べた。

調査委員長を務める緑の党のサラ・ハンソンヤング上院議員は、アルトマン氏はオーストラリアのハッキングに関する質問に公的に答えるべきだと述べた。

「すべてが密室で行えるわけではない」とハンソンヨン氏は語った。 「国民にはここで何が起こったのかを知る権利がある。」

オーストラリアで数百万の世界的テキストに対するAIトレーニングを許可するために数か月に及ぶ非公開交渉を経て、調査は企業と政府にとって当惑を招くリスクを伴う。

アルバニーズ氏は今週初め、事件によってOpenAIとの協力に関する政府の見解が変わったかどうか尋ねられたが、直接には答えなかった。

マレー・ワット環境大臣は土曜日、OpenAIの行為は「全く容認できない」と述べた。

ワット氏はメルボルンで記者団に対し、「オーストラリア人がOpenAIのテクノロジーを確実に信頼できるよう、OpenAIにはやるべきことがいくつかあると思う」と語った。

「OpenAIや他のAI企業がオーストラリア国民の信頼を得たいのであれば、より透明性の高い行動をとり、より迅速に情報を提供する必要がある。」

緑の党は、AI開発を遅らせるための世界的な規制と、データセンター開発の地域的な一時停止を求めた。

同党のAI報道官デビッド・シューブリッジ氏が政府主導の委員会の委員に就任することを阻止された。同党は独自の調査を利用して、データセンターの建設に反対する地域団体から意見を聞き、開発の背後にいる幹部らに尋問した。

アルトマン氏とアモデイ氏は、急速なAI開発のリスクについてますます声を上げている。ハンソンヨン氏は、両CEOの公の警告は、AIトレーニングを可能にする緊急の改革を求める両社の呼びかけと矛盾していると述べた。

「もし彼らが自らの警告を本当に信じているなら、彼らは立ち直って、この業界の効果的で持続可能な規制がどのようなものであるべきかについて正直に話し合う必要がある」とハンソン・ヤング氏は語った。

「オーストラリア人は、これらの大手AI企業が私たちのデータを使って何をしているのか、彼らのデータマイニング活動がどれだけの水と電力を消費するのか、そして私たちのコミュニティや文化にどのような影響を与えるのかを知る権利がある。」

公聴会は10月1日にキャンベラで再開される。

OpenAI と Anthropic にはコメントを求められています。