iPhone内の画像から勝手に児童ポルノを通報するAIに「欠陥」がみつかる

1 : 2021/08/30(月) 17:22:51.60 ID:i8WiV4xt0

Apple社の児童ポルノ検出技術に欠陥が発見されました。

現在Appleは、アメリカにおいて、個人の持つiPhoneやiCloudを勝手にスキャンして、児童ポルノを通報する「NeuralHash」というAIソフトの導入を進めています。

しかし8月18日にコード共有ウェブサイトGitHubのユーザーがシェアした情報によると、肝心のAIソフト(NeuralHash)が「犬と抽象画」を同じ画像と認識していると発見したとのこと。

iPhoneは膨大な数が世に出回っているため、わずかな誤検出率でも、誤認逮捕を引き起こす可能性があります。

しかし、いったいどうしてNeuralHashは犬の写真と抽象画を「同一」と判断してしまったのでしょうか?

ソース
https://nazology.net/archives/95176

関連ニュース
AppleがiPhone内の画像から勝手に児童ポルノを通報すると発表!今年中に米国で開始
https://nazology.net/archives/94197
ドコモがiPhone SE 特価セールを開始、端末のみ22,001円、新規契約またはMNPなら1円 [422186189]
https://hayabusa9.5ch.net/test/read.cgi/news/1630306862/

2 : 2021/08/30(月) 17:23:21.55 ID:AuyzIUXA0
ほぅ
3 : 2021/08/30(月) 17:23:59.66 ID:4NZmQ0CR0
パトロールしてた例の大学生はまだ元気なのかな
4 : 2021/08/30(月) 17:24:33.62 ID:6o0iz6TX0
てっぺん薄いのに。すごいねぇ。
5 : 2021/08/30(月) 17:24:37.01 ID:Tx7fMAHb0
バター犬
6 : 2021/08/30(月) 17:26:37.35 ID:tAxVMqnJ0
>Appleは実際に警察に通報を行う前に、人間の目によるダブルチェックを行うとしていますが

ちょっと履歴書買ってくるわ

7 : 2021/08/30(月) 17:26:38.15 ID:+iRGCXJp0
どうやって学習させたんですかね
9 : 2021/08/30(月) 17:27:51.06 ID:nP82WaXb0
>>7
クック「科学のためだ私の秘蔵フォルダを使いたまえ」
社員「おちんちんばっかりじゃないですか!」
13 : 2021/08/30(月) 17:31:08.39 ID:G1lHi6g+0
>>9
クック「逆に考えるんだ。オチンチンの付いた女の子だと思えば2倍お得じゃないか」
27 : 2021/08/30(月) 17:37:41.49 ID:Cmz9JLgB0
>>13
おまえティムコックだろ
12 : 2021/08/30(月) 17:30:26.79 ID:MPF9Kzkl0
>>7
Appleのやり方は一種のハッシュのようなもので既知のチャイルドポルノ画像と一致するかを調べる仕組みで、
今回のこれはその仕組みだと非常に低い確率だけれども全く異なる画像同士を同じものとしてしまうということ
8 : 2021/08/30(月) 17:26:55.79 ID:lf2XQDFS0
日本の端末からが異常に多いんだろうな
19 : 2021/08/30(月) 17:33:24.91 ID:bIT7rA8Q0
>>8
これ日本は対象じゃない。あとロリ関係の日本叩きは印象操作で、圧倒的に欧米だよ
10 : 2021/08/30(月) 17:29:34.26 ID:zbs2E10I0
日本で通報されてる人っているの?
11 : 2021/08/30(月) 17:29:55.05 ID:cBEyvFAk0
実際に運用して人間がダブルチェックしてAIにフィードバックすればすぐに実用的になるだろ
14 : 2021/08/30(月) 17:31:21.94 ID:Hm/lFCN80
当たり前のように言ってるけど勝手にスキャンするなよ
15 : 2021/08/30(月) 17:31:31.30 ID:ArKxJWyz0
携帯にエ口画像保存するアホ居るのか?
20 : 2021/08/30(月) 17:33:56.63 ID:70vkzZeC0
>>15
馬鹿だからな
海外鯖に垢作って保存する知恵もないんだろ林檎信者は
30 : 2021/08/30(月) 17:38:48.39 ID:ArKxJWyz0
>>20
お、おぅ
16 : 2021/08/30(月) 17:31:33.88 ID:5ZpeEhgh0
つまり児童のポルノはきわめて抽象的で犬に似ているんだな
17 : 2021/08/30(月) 17:32:16.44 ID:8NGYmpca0
短小チンコも児童ポルノと判定されるのかな?
18 : 2021/08/30(月) 17:32:36.15 ID:LJWbBalz0
ICloudもかい。小児科の先生でiCloud使ってたら逮捕だ!
21 : 2021/08/30(月) 17:34:04.34 ID:P3+/SvHg0
>>1
児童ポルノ大好きなのは白人様だし白人様だけで完結したらよろし
36 : 2021/08/30(月) 17:43:14.49 ID:pkckDXa00
>>21
でも韓国じゃ出産直後の乳児レイプが大流行してるんだが
23 : 2021/08/30(月) 17:35:33.93 ID:iz+mCJW60
ゴリラの赤ちゃんの写真を黒人の児童ポルノと判断するとかそんなんだろ
24 : 2021/08/30(月) 17:37:00.57 ID:jA5uhfgb0
>>23
黒人をゴリラと判定した機会認識を思い出した
Googleだっけか?
26 : 2021/08/30(月) 17:37:37.21 ID:RGkIuD+V0
我が子の成長記録が消される欠陥商品なのでは
28 : 2021/08/30(月) 17:38:00.25 ID:fMJwrMw20
朗報だろ
29 : 2021/08/30(月) 17:38:11.04 ID:MnIPBuVf0
日本で導入されたら9割くらい逮捕されるだろ。
アニメの画像とか持ってたら完全に児ポ判定されるw
31 : 2021/08/30(月) 17:38:56.08 ID:YI2SOMCc0
自分の子供とかの写真も消されるのか
32 : 2021/08/30(月) 17:39:17.28 ID:OZc6Z8lU0
子供のプールでの写真も撮れないって事?
34 : 2021/08/30(月) 17:40:12.37 ID:6VkrLynf0
これには炉立憲さんカンカン!w
35 : 2021/08/30(月) 17:41:08.28 ID:4WjZygp/0
なんかサムネでグロ画像になるアレみたいに誤認識する細工を仕込んでるんじゃないの?
37 : 2021/08/30(月) 17:43:18.09 ID:b03YeYVl0
やばい
iCloudにやばい漫画の画像ある
38 : 2021/08/30(月) 17:45:34.49 ID:Gsy4DLyt0
イヤらしいよな犬は
いっつもハアハア言ってるし
39 : 2021/08/30(月) 17:45:40.10 ID:Qt0carpo0
中国とやってること同じじゃん
40 : 2021/08/30(月) 17:46:00.68 ID:7kk1qL0P0
え?うわあああ

コメント

タイトルとURLをコピーしました