画像テキストの翻訳
(1)ナイトシェードによって傷んだモデルによって生成された画像下と原本の写真=シカゴ大学
(2)アーティストの創作物を同意なしに人工知能AIモデル訓練に活用することを防止するツールナイトシェードNightShadeがすごい反応を起こすことが分かった
(3)ベンチャービートは29日、現地時間にシカゴ大学の研究陣がアーティストの同意なしにイメージを学習に使用する場合、該当AIモデルを損傷する無料ツールナイトシェードを18日に発売5日ぶりに25万件のダウンロードを記録したと報道した
中略
画像テキストの翻訳
(1)ナイトシェードは、イメージピクセルに目に見えない
(2)修正事項を注入する方式でAI訓練に使用するデータセットを汚染させ、AIがイメージを誤って解釈させる。例えば、AIが猫の写真を犬だと信じさせることができ、その逆の場合も可能だ。使用者が損傷したAIに猫のイメージを要請した場合、ナイトシェードによって猫とラベルが指定された犬を得ることになる
(1)つまりナイトシェードを使うとアーティストが一方的に画像テキストの翻訳
(2)で被害だけでなく積極的な反撃が可能になった
(3)シカゴ大学はナイトシェードの正式発売直後、ダウンロードの試みが殺到し、コピーをダウンロードできるミラーリンクを追加したほどだと明らかにした
(4)昨年4月に発売された旧バージョンのGlazeも220万件のダウンロードを記録した グライズもイメージピクセルを微妙に変更したアーティストが自分の固有のスタイルを複製できないように防御する道具だ。例えば、木炭の肖像画スタイルがAIシステムには有
(5)災いとして現れる可能性がある
(6)原本画像左からとスタイルを模倣したイメージグレーズの原本と文
(7)レイズ適用時のスタイル模写の結果写真=シカゴ大学
下略
出所して関連記事を探せば他の道具も出てくるようです