え、これ実はものすごくヤバい話かもです。カメラで撮った写真が何かの証拠として扱われるには「改ざんがない保証」が必要です。これを情報処理の用語で「完全性」というのですが、AI補正が勝手に描き加えると完全正は失われます。つまり証拠として採用できなくなってしまいます。(続く https://t.co/OBJJ1P2BbZ
— あまねしく (@amanesiku) February 23, 2024
これが進むと、たとえば万引き犯を iPhone で写真に撮ったとして、写った人が本当にその人か?AIが顔を描き変えてないか?と言われたら抗弁できません。今までは有無を言わさぬ証拠として成り立った「写真」というものが世の中から失われるという、恐ろしい未来の先触れがもう始まってしまったのですね
— あまねしく (@amanesiku) February 23, 2024
丁度タイムリーな話で
— bbshin (@shinbb52) February 23, 2024
建築現場の写真をiPhoneで撮れば写真管理も楽でいいよねって内容ですが、
iPhoneはまさに完全性が失われたAI画像なので、保険や銀行融資などで厳密にエビデンス求められた場合、問題になるんじゃないかなぁって思ってました
iPhone15 proの望遠モードが特に顕著ですね https://t.co/RLbJNNN1Zi
デジタルカメラで撮影した画像の真正性の重要性についてはメーカーも認識しており、既に検討も進んでいますし、実装した製品もあります。『真正性 デジタルカメラ』で検索してみてください。
— じじい (@yknd4118) February 23, 2024
望遠だと起こりやすいらしいね
— Asuto Furuhashi (@AsutoF) February 23, 2024
一時期Galaxyが丸いものに月面うさぎを描きがちって話題になってた
だから私はデジカメライクのXperia
確か、ちょっと前に、野鳥撮影みたいなやつで撮った写真を、画像拡大サービス使って拡大したら、今は絶滅?した種の写真になって、でも拡大前の写真見ると普通の鳥で。
— pipix@シュガーナイト (@pipix1121) February 23, 2024
画像拡大サービスが、AIの妄想(ハルシネーション)を描き込んだ結果だった。
って話題になったような、うろ覚え。
証拠にならなくなるのもそうなんですが、撮影者がその瞬間を切り取って残したいという意志を無視して、勝手に上書きするのを問題と思っていないのが問題。
— シオン (@xion_sylpheed) February 23, 2024