欧州はプラットフォームにAIのラベルを付けることを望んでいる

欧州連合は、ディープフェイクやその他の AI によって生成されたコンテンツにラベルを付けるために、オンライン偽情報に関する実践規範の署名者に頼っています。

EUの価値観・透明性委員ベラ・ジュロバ氏は昨日、規範署名者40カ国以上との会合後の発言で、偽情報と闘うために署名した国々はAIコンテンツを認識し、ユーザーに明確にラベルを付ける技術を導入すべきだと述べた。

「新しい AI テクノロジーは善をもたらす力となり、効率の向上と創造的な表現のための新たな道を提供します。しかし、いつものように、この問題の暗い側面についても言及しなければなりません。また、新たなリスクやマイナスの結果をもたらす可能性もあります。社会」と彼女は警告した。「偽情報の作成と拡散に関しても同様です。

「ChatGPT のような高度なチャットボットは、複雑で一見十分に裏付けのあるコンテンツやビジュアルを数秒で作成できます。画像ジェネレーターは、決して起こらなかった出来事の本物に見える写真を作成できます。音声生成ソフトウェアは、サンプルに基づいて人の声を模倣できます。「数秒です。新しいテクノロジーは、偽情報との戦いにも新たな課題をもたらします。そこで私は今日、署名者に対し、この問題について議論するための専用の別個のトラックをコード内に作成するよう依頼しました。」

「AIの生産に関して言えば、機械が言論の自由を持つ権利はないと思います。

偽情報に対する EU 行動規範の署名者は、AI コンテンツを認識し、ユーザーに明確にラベルを付けるためのテクノロジーを導入する必要があります。」

— 副大統領 @VeraJourova pic.twitter.com/yLVp79bqEH

— 欧州委員会 (@EU_Commission) 2023 年 6 月 5 日

EUが昨年夏に強化した現行版のコードは、この自主的手段が（法的拘束力のある）デジタルサービス法（DSA）の遵守にカウントされる緩和措置となることを意図していることも確認した際に、現時点では義務を負っていない。ディープフェイクの識別とラベル付けまで。しかし委員会はそれを変えたいと考えている。

EU委員は、AI生成コンテンツに対する緩和策を規範に盛り込む方法については、主に2つの議論の角度があると考えていると述べた。1つは、MicrosoftのNew BingやGoogleのBard AI拡張検索サービスなど、生成AIを統合するサービスに焦点を当てることだ。「悪意のある行為者がこれらのサービスを利用して偽情報を生成できないようにする必要な保護手段」を組み込むことに取り組むべきである。

2つ目は、AIが生成した偽情報を広める可能性のあるサービスを提供する署名者に対し、「そのようなコンテンツを認識し、ユーザーに明確にラベルを付ける技術」の導入を義務付けるものだ。

ジュロバ氏は、グーグルのサンダー・ピチャイ氏と話し、グーグルはAIが生成したテキストコンテンツを検出できる技術を持っているが、その能力を向上させるためにその技術の開発を続けていると言われたと述べた。

報道陣の質疑応答でのさらなる発言の中で、同委員は、EUはディープフェイクやその他のAI生成コンテンツのラベルが明確かつ高速であることを望んでいると述べた。そのため、通常のユーザーは、表示されているコンテンツの一部が不正な内容であることをすぐに理解できるだろう。人間ではなく機械によって作られました。

同氏はまた、委員会はプラットフォームが「直ちに」ラベル表示を実施することを望んでいるとも述べた。

DSAには、非常に大規模なオンラインプラットフォーム（VLOP）に対して、操作された音声や画像にラベルを付けることを義務付ける規定がいくつか含まれているが、ジュロバ氏は、偽情報規範にラベルを追加するという考えは、DSAに基づくVLOPの遵守期限である8月25日よりも早く実現する可能性があると述べた。。

「私たちの主な任務は言論の自由を守ることだと何度も言いました。しかし、AIの生産に関して言えば、機械が言論の自由を持つ権利はないと私は思います。そして、これもまた戻ってきています。「私たちの法律の古き良き柱です。だからこそ、私たちはこの非常に基本的な考え方に基づいて、行動規範の下でもさらに取り組んでいきたいと考えています」と彼女は付け加えた。

欧州委員会は来月、AIが生成する偽情報リスクの報告に関する措置を講じることも期待している。ジュロバ氏は、関連する署名国は7月の報告書を利用して「生成型AIの悪用による拡散を避けるために講じている安全策について国民に知らせるべきだ」と述べた。偽情報」。

この偽情報規範には現在、合計44社が署名しており、その中にはグーグル、フェイスブック、マイクロソフトなどの大手テクノロジー企業に加え、小規模なアドテク事業体や市民社会組織も含まれているが、これは2022年6月時点で署名した34社よりも増えている。

しかし、Twitterは先月末、自主的なEU規範から離脱するという異例の措置を講じた。

マスク氏の政策変更がクレムリンのプロパガンダを促進することが判明したことを受け、EUは偽情報についてツイッターに警告

ユロワ氏が昨日の会合で残りの署名国に提起し、さらなる行動を取るよう促した他の大きな問題には、ロシアの戦争プロパガンダと親クレムリンの偽情報が含まれていたと指摘した。「一貫した」モデレーションと事実確認の必要性。選挙の安全に関する取り組み。研究者はデータにアクセスできます。

同氏は、「プラットフォーム上では危険な偽情報コンテンツが依然として流通しており、キャパシティが少なすぎる」と警告し、事実確認の取り組みがEU内で話されているすべての言語を対象としたコンテンツ全体に包括的に適用されていないという欧州委員会の長年の不満を強調した。小国を含む加盟国。

「特に中欧諸国と東欧諸国は、特にロシアの偽情報源からの永続的な攻撃にさらされている」と彼女は付け加えた。「やるべきことはたくさんある。これは能力の問題であり、これは我々の知識の問題であり、これは我々の言語理解の問題である。また、一部の加盟国に餌場や吸収のために準備された土壌がある理由の理解も必要だ」偽情報の大部分を占める。」

研究者へのアクセスは依然として不十分であると同氏は強調し、プラットフォームに研究用データへの取り組みを強化するよう促した。

ジュロバ氏はまた、イーロン・マスク氏が選んだ道についていくつかの警告の言葉を付け加えた。Twitter社がDSAの下で指定されたVLOPとしてEUの執行対象に置かれていることを示唆している。

DSAは、偽情報などの社会的リスクを評価し、軽減することをVLOPに法的要件を課しているため、TwitterはEUの規範をひっくり返して非難と制裁を招いている（DSAに基づく罰金は世界の年間売上高の6％まで拡大される可能性がある）。

「今年8月から、DSAの執行者の役割を果たす我々の組織は、Twitterが準拠しているかどうか、リスクを軽減し、特に違法なコンテンツに対して措置を講じるために必要な措置を講じているかどうかを調査することになる。」と彼女はさらに警告した。

「欧州連合は、カリフォルニア州の法律が輸入されることを我々が望んでいる場所ではない」と彼女は付け加えた。「私たちは何度も言いましたが、だからこそ私もまた戻ってきて、ヘイトスピーチに対する行動規範や実践規範について（数年間）私たちと協力してくれた…元ツイッター社の人々への協力に感謝したいのです。「また、偽情報についても同様だった。そのことについては残念に思う。Twitterには、ある程度の責任があり、Twitterのようなプラットフォームのサイトではさらに大きな責任が必要であることを理解している、非常に知識が豊富で断固とした人々がいたと思う」

Twitterのコミュニティノートのアプローチ（議論のあるツイートに文脈の合意を追加するために十分な数の人々が参加した場合、ファクトチェックをTwitterユーザーにクラウドソーシング（つまり本質的に外注）する）は、それ自体で偽情報に対処するための法的要件を遵守するのに十分であるかどうかとの質問DSA に対し、ジュロワ氏は、遵守しているかどうかを評価するのは委員会の執行官次第であると述べた。

しかし同氏は、Twitterの規範からの離脱は間違った方向への重大な一歩であると指摘し、「行動規範は、有害なコンテンツに対する非常に真剣で信頼できる緩和策として認識されることになるだろう」と付け加えた。

イーロン・マスク氏、TwitterをEUの偽情報行動規範から外す