Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • Welcome to the AIIDaaaa
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • 組織
  • 分類法
  • 文字数カウント
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • Sign Up
閉じる
発見する
投稿する
  • Welcome to the AIIDaaaa
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • 組織
  • 分類法
  • 文字数カウント
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • Sign Up
閉じる

AIインシデントデータベース
にようこそ

資金力のあるモスクワを拠点とする世界的な「ニュース」ネットワークが、世界中の西側諸国の人工知能ツールをロシアのプロパガンダで汚染した。

Incident 968: 'Pravda' Network, Successor to 'Portal Kombat,' Allegedly Seeding AI Models with Kremlin Disinformation

“資金力のあるモスクワを拠点とする世界的な「ニュース」ネットワークが、世界中の西側諸国の人工知能ツールをロシアのプロパガンダで汚染した。”最新のインシデントレポート
newsguardrealitycheck.com2025-03-06

モスクワを拠点とする偽情報ネットワーク「プラウダ」(ロシア語で「真実」の意味)は、人工知能チャットボットから取得したデータを意図的に侵入し、虚偽の主張やプロパガンダを公開して、人間の読者をターゲットにするのではなく、ニュースのトピックに関するAIモデルの応答に影響を与えるという野心的な戦略を追求していると、ニュースガードは確認した。このネットワークは、検索結果やウェブクローラーにクレムリン寄りの虚偽を氾濫させることで、大規模な言語モデルがニュースや情報を処理し提示する方法を歪…

さらに読む
退任するバイデン米大統領はパキスタンの「政権交代」を支援したことを認めなかった

Incident 856: Deepfake Audio Purportedly Fabricates Biden’s Admission of Role in Pakistani Political Crisis

“退任するバイデン米大統領はパキスタンの「政権交代」を支援したことを認めなかった”
sochfactcheck.com2024-12-06

ジョー・バイデン米大統領は、2022年4月にイムラン・カーン前首相を解任するための陰謀にパキスタン軍司令官を参加させたことを認めた。音声記録によると。### 事実 _Soch Fact Check_は厳密なディープフェイクテストを実施し、関連分野の複数の専門家と話し、バイデン氏の告白とされる音声は本物ではなく、AIが生成した可能性が高いことを確認した。この展開に関する信頼できる報道がないため、その信憑性についてさらに疑問が生じている。音声の公開が2024年の米国選挙のわずか数…

さらに読む
公安機関がネット上のデマを調査・対処|写真に真実が含まれているとは限らない AIのデマに注意。

Incident 835: AI Technology Allegedly Fuels False Reports of Natural Disasters and Accidents in China

“公安機関がネット上のデマを調査・対処|写真に真実が含まれているとは限らない AIのデマに注意。”
baijiahao.baidu.com2024-09-29

近年、ビッグデータや人工知能(AI)などに代表される情報技術は日々変化しています。一方で、AIツールの合成技術によりデマの捏造が行われ、さらには現実に近い画像や音声、映像が生成され、「画像あるところに真実がある」という従来の認識が覆され、困難化が進んでいます。真と偽を区別するため。今日は、インターネット ポリスが AI ツールによって広まったデマの背後にある真実を理解するお手伝いをします。

[AIによる噂作りの定義]

AI 噂作成 とは、人工知能テクノロジーを使用してテキスト…

さらに読む
translated-ja-Top 10 Generative AI Models Mimic Russian Disinformation Claims A Third of the Time, Citing Moscow-Created Fake Local News Sites as Authoritative Sources

Incident 734: Leading AI Models Reportedly Found to Mimic Russian Disinformation in 33% of Cases and to Cite Fake Moscow News Sites

“translated-ja-Top 10 Generative AI Models Mimic Russian Disinformation Claims A Third of the Time, Citing Moscow-Created Fake Local News Sites as Authoritative Sources”
newsguardtech.com2024-06-18

translated-ja-Russian disinformation narratives have infiltrated generative AI. A NewsGuard audit has found that the leading chatbots convincingly repeat fabricated narratives from state-affiliated sites masquerading as local news outlets i…

さらに読む
Putin’s Next Target: U.S. Support for Ukraine, Officials Say

Incident 602: Russia Using Artificial Intelligence in Disinformation Campaigns to Erode Western Support for Ukraine

“Putin’s Next Target: U.S. Support for Ukraine, Officials Say”
nytimes.com2023-11-10

Russia’s strategy to win the war in Ukraine is to outlast the West.

But how does Vladimir Putin plan to do that?

American officials said they are convinced that Mr. Putin intends to try to end U.S. and European support for Ukraine by using …

さらに読む
新しいレポートのURLをすばやく追加

投稿されたリンクはレビューキューに追加され、新規または既存のインシデントレポートとして登録されます。詳細情報も合わせて投稿されたインシデントは、詳細情報のないURLだけの投稿よりも優先して処理されます
データベースについて

AIインシデントデータベースは人工知能システムによって現実世界が被った損失、もしくは被る可能性のあった損失の記録です。航空機事故やコンピューターセキュリティの分野にも同種のデータベースがありますが、それらと同様に、AIインシデントデータベースも過去から学び、不適切な結果にならないように考慮したり、発生したインシデントに対処できるようになることを目的としています。

インシデントレポートを投稿しましょう。投稿はすぐに登録され、世界中の人から閲覧可能になります。情報を集約し、失敗から学ぶことなしに、人工知能は人類や社会にとって有益なものになることはできません。(もっと読む)

データベースの紹介

PAI Blog、Vice News、Venture Beat、Wired、arXivやその他の記事でこのデータベースが紹介されています。

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
インシデントレポート投稿ランキング

インシデントレポートの作成や投稿に貢献した人や組織です。詳細についてはランキングページを参照してください。

新しいインシデントの投稿
  • 🥇

    Anonymous

    34
  • 🥈

    Roman Yampolskiy

    16
  • 🥉

    Khoa Lam

    9
既存のインシデントに追加されたレポート
  • 🥇

    Anonymous

    42
  • 🥈

    Roman Yampolskiy

    17
  • 🥉

    Khoa Lam

    15
レポートへの協力の総計
  • 🥇

    Anonymous

    497
  • 🥈

    Roman Yampolskiy

    221
  • 🥉

    Catherine Olsson

    139
AIインシデントブリーフィング
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

ランダムインシデント
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Google’s YouTube Kids App Presents Inappropriate Content
Google’s YouTube Kids App Presents Inappropriate Content
Poor Performance of Tesla Factory Robots
Poor Performance of Tesla Factory Robots
Near-miss between two Self-Driving Cars
Near-miss between two Self-Driving Cars
Amazon Flex Drivers Allegedly Fired via Automated Employee Evaluations
Amazon Flex Drivers Allegedly Fired via Automated Employee Evaluations
Responsible AI Collaborative

インシデントデータベースはAIインシデントデータベースの推進を目的として設立されたResponsible AI Collaborativeによるプロジェクトです。Collaborativeのガバナンスはこの重要なプログラムの参加者を中心に構成されています。詳細については設立レポートを読んでください。さらに詳しい情報はand learn more on ourにあります

Responsible AI CollaborativeのForm 990と免税申請をご覧。

組織協賛スポンサー
データベース協賛スポンサー
スポンサーと助成
協力スポンサー

プロジェクトとコミュニティ

  • AIIDについて
  • 2f412b5