パスワードを忘れた? アカウント作成
15130108 story
Android

性的写真を撮れないスマホを作ってほしい、NPO団体がアップルとグーグルに要望準備 194

ストーリー by nagazou
文化から宗教までいろんな分野で議論が必要になりそう 部門より
あるAnonymous Coward 曰く、

弁護士ドットコムによれば、NPO団体がスマートフォンOSベンダーであるAppleとGoogleに対して、AI技術を用いて性的写真を撮れないスマートフォンを作ってほしいという要望書を提出しようと計画しているという(弁護士ドットコム)。

現在のスマートフォンは1世代前のパソコンと同程度の処理能力を有し、機械学習を用いれば、技術的には可能とのこと。これは児童ポルノやリベンジポルノの犯罪に対し未然に防ぐ機能であるとし、これはAI技術を活用した運転支援機能と同じようなものだと説明している。

筆者自身、子を持つ親の心情はとても理解できるが、何をもって性的かどうかという主観的な問題をどこまで機械学習で判別することはできるのだろうか。写真は判別できたとしても動画であればどうなのかも気になる。スラド諸氏はどのように考えているか知りたい。

情報元へのリンク

  • by Anonymous Coward on 2021年01月25日 18時54分 (#3965543)

    客観的な被害の証拠が撮れないって、被害者にとっては地獄じゃ無いか?
    犯罪者が馬鹿だから証拠として画像が残って、裁判では貴重な物証として有罪を導き出した事も相当あるでしょう。
    裸のおっさんが暴れてても、その証拠写真が撮れないって、被害者から対抗手段を一個奪う事にもなる訳で、デメリットが大きすぎる。
    SNSとかでデータを送信できなくするとかなら、まぁ分からないでも無いが、証拠すら残させないってのは、見えなきゃ何も起きてないっていう、最低の大人の発想だわ。

    ここに返信
  • by ma_kon2 (9679) on 2021年01月25日 18時00分 (#3965490) 日記
    なぜこの手の人たちは自ら管理されたがるのだろう。
    自分は例外だと思ってるんだろうか…
    ここに返信
    • by ma_kon2 (9679) on 2021年01月25日 18時01分 (#3965492) 日記
      と書いて、その方がラクだからと気が付いた。
    • by simon (1336) on 2021年01月25日 18時08分 (#3965497)

      なぜこの手の人たちは自ら管理されたがるのだろう。
      自分は例外だと思ってるんだろうか…

      「管理されたがる」というよりも「現状では保護されていないので保護を求めてる」んだと思うよ

      自由よりも安全を望むのは今現在危険を感じてる人にとっては当たり前のこと

      で、気持ちはわかるが「性的かどうか」というのをAIで判別するのはすげー難しいと思うんだよな。

      シャッター音を必須にするとか(今現在はどうなってるんだっけ?)、撮影場所をタグ付けしてクラウドに記録するとか(エスカレーターや女子トイレで撮影した証拠が残るように)それくらいじゃない?現実的な対応は

      • by ma_kon2 (9679) on 2021年01月25日 19時01分 (#3965554) 日記
        だいたいさ、児童ポルノにしたってリベンジポルノにしたって
        「その時点では当の本人は危険とは考えてない」案件ではなかろうか?
        それを一律防止するのはなんだかなあ、という気もする。

        まあ、そこを差し引いて考えるには、まじめな話、流出した削除該当画像をAIとかコンテンツにIDタグを付けといてネット上に上がってる分を一律消去できる仕組みとかかね。
        • by Anonymous Coward on 2021年01月25日 21時19分 (#3965672)

          まあ、そこを差し引いて考えるには、まじめな話、流出した削除該当画像をAIとかコンテンツにIDタグを付けといてネット上に上がってる分を一律消去できる仕組みとかかね。

          そっちの方が怖いよ。独裁政権が民主化運動の活動家を暴力的に弾圧したり、特定民族を虐殺しても、その告発・証拠画像や動画はネットから簡単に全部、消せちゃうってことじゃないか。

      • by Anonymous Coward on 2021年01月25日 18時25分 (#3965515)

        児童ポルノやリベンジポルノの防止が主目的らしいから、シャッター音を必須にしても撮影場所の記録を残しても意味ないんじゃないかな。盗撮と違って、これらのケースでは撮影時は被撮影者の同意があると思われるので。
        更にいうと、これらのケースでは当事者は今現在危険を感じていないから撮影を許しちゃってると思うんだよね。なので、3965497と本文および弁護士ドットコムの話では前提条件が食い違ってる気もする。

      • by Anonymous Coward on 2021年01月26日 10時59分 (#3965917)

        そこまで考えてるか疑問
        自分の思ったことを整理せずダイレクトに口に出しているだけなんじゃないか
        でもって個人的なことを世の中の総意みたいな話に持っていくから、まわりからは「管理しようとする」なんてふうに見えてしまってるんじゃないか
        騒いでる人だけなら「管理しようとする」なんて発想出てこないだろ

  • 性的写真は確実に該当すると思うけど、それ以外でもあるよねぇ。

     とんでもない変顔写真見たいな笑えるものから、一緒に写っちゃいけない人と密会している写真とか、おそらくどんなジャンルの写真でも被写体にとって、他の人に見られたらイヤだったり困る写真になりうる。
     今回のポルノがらみの写真は社会的な合意を取りやすいと思うけど、例えば変顔写真に困っている人たちが集まって変顔が撮れないカメラ、◯◯に困っている人たちがが◯◯を撮れないカメラってやっていったら、そのうちカメラは何も写せなくなるんじゃないかしらね。

     こういう人権問題って、機械でどうのこうのするのは本質的な解決でないと思う。市販されるカメラに規制機能をつけても、犯罪とかに使う奴は必ず抜け道を見つけ出す。
     リベンジポルノや本人が同意していない写真の流通みたいな問題は、そういう事態を迅速に解決する法的制度や社会制度(警察や政府機関の拡充)の整備で対応するべきだと思うな。

    ここに返信
  • by miyuri (33181) on 2021年01月25日 18時57分 (#3965548) 日記

    金尻:ぱっぷすに寄せられる児童の被害相談のほとんどが、性的な写真の送付要求や盗撮、拡散など、スマホにまつわるものです。自分で撮影した性的な写真を「自画撮り」といいますが、児童に自画撮りをさせて、巧妙に送らせる大人たちがいます。

    ぺあれんたるこんとろーるでどうぞ。

    ここに返信
  • by hinatan (24342) on 2021年01月25日 18時03分 (#3965493)

    シャッター音が出ないように自主規制した結果、どうなったか?

    写真が性的かどうかは裁判所で決まる

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時13分 (#3965502)

    私達は買われた系案件。
    売れなくなったんで金策の方向性変えたんでしょうね。

    ここに返信
  • by KAMUI (3084) on 2021年01月25日 19時55分 (#3965607) 日記
    TumblrがAIでアダルト排除しようとして失敗したのがわずか2年前 [gigazine.net]。その結果、利用者が壊滅的に減少して [it.srad.jp]身売りする羽目になった。

    いくらAIの進化が速いと言っても、人によって感じ方の違う「性的」なんてものを判定させるのは無茶が過ぎるんじゃね?
    「親が子供の写真撮ろうとしてAIに蹴られる」とか、凄く仕様も無い展開を想像したわ。
    ここに返信
  • ・・・を作れといったら,荒唐無稽なことをいってると多くの人がわかるのに。
    なんでIT関係だと,こういうことを平気で言う人が後をたたないのだろうか。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 23時01分 (#3965718)

    女性の目の周囲以外の肌は性的だから撮影できないようにすべきだよねえ。
    NPOの主張がそうではないならば「性的」はどの思想宗教に基づくものなのか明示しなければおかしい。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時07分 (#3965496)

    「何をもって性的かどうか」なんだけど、〇女子のカテゴリの人たちがこの2つの組み合わせを性的にプラスとマイナスの象徴とする、って取り上げられることがあるんですよね。これ写真からフィルタアウトするんでしょうか。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時11分 (#3965500)

    性的を完璧に定義してください。

    ここに返信
    • by Takahiro_Chou (21972) on 2021年01月25日 19時09分 (#3965559) 日記

      ひょっとしたら「エロとは、結構、保守的でバリエーションや多様性に乏しく、100%は無理でも90〜95%ぐらいはパターン認識で何とか成る」んじゃなかろうか??って気もせんでは無い。

    • by Anonymous Coward on 2021年01月25日 18時50分 (#3965540)
      適当な写真を2つ表示してエッチだと思う方を選んでもらう
      世代を重ねていけばどんどん性的な画像になっていくはず
    • by Anonymous Coward

      定義はむりだから、女性を撮る時は無条件に写っていいところだけ円形にくりぬいて後は塗りつぶした写真にしよう。
      # これなら既存技術(?)を応用したいい感じにマスクしてくれるAIが開発できるかも

      • by Anonymous Coward

        男児もポルノになりえますよ?

        • by Anonymous Coward

          男性をは全部塗りつぶせばいいだろ

          • by Anonymous Coward
            全部動画に変換して保存すれば静的写真はなくなる
      • by Anonymous Coward

        自撮りで何故か女性として認識されなくてTwitterでお気持ち砲ぶっぱなすのがオチ。

    • by Anonymous Coward

      弁護士ドットコムの記事にでてきた、団体所属の女性の写真もじゅーぶんに性的な気がするんだが。これも撮影禁止になるのが彼女らの望む世界なのだろうか。
      リベンジポルノや児童ポルノに使われなければOK?
      でも世の中には修道女でヌく人も居るぐらいで、何を着ていようがポルノになるみたいなんだよねえ。

  • by Anonymous Coward on 2021年01月25日 18時12分 (#3965501)

    AIは勝手に基準作ってくれる訳じゃなく、
    「こう言う画像はOK、これはだめ」って決められた基準を学習してるに過ぎない。

    まず「誰もが(少なくともAppleとGoogleとそのユーザが)納得出来る基準」を作るべき。

    出来る訳無いと思うけどね。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時15分 (#3965503)

    顔識別の機能を使って「人間を写すことができないカメラ」にすればいい
    カメラ側で人間を検知して、画像の解像度を8x8ドットにしてしまう、という……
    性的なものである前提で人間は写さなくてもいいってことでどうかな

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時15分 (#3965504)

    元記事にこの表現があるから一世代前のノートパソコンで技術的に可能だったってことだよな。
    すでに人間の感性を理解する技術がすでに確立していたとは。

    金尻:現在のスマホは、一世代前のノートパソコンと同程度の機能を有しています。機械学習機能を用いれば、技術的には可能です。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時18分 (#3965507)
    ここに返信
    • by Anonymous Coward

      特定の機種で撮れない、じゃなくて、どんな機種でも撮れないようにしてほしいんだと思う。

  • by Anonymous Coward on 2021年01月25日 18時31分 (#3965520)

    人間を検知したら、写真の代わりにこのNPO団体の連絡先が保存されるように実装するとか。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時49分 (#3965539)

    売れる見込みがあるのなら作ってくれるんじゃないかな。

    ここに返信
  • by Anonymous Coward on 2021年01月25日 18時59分 (#3965550)

    AIに夢を見すぎなんじゃないの?
    そして自分たちがやるべきことを他人に丸投げしすぎ。

    そうやって他人に責任転嫁してきた結果教育レベルが下がってるんじゃないの?

    ここに返信
  • by Anonymous Coward on 2021年01月25日 19時01分 (#3965551)

    「AI技術で性的写真を撮れないスマホを作ってほしい」
    「そんな技術はまだ存在しません。不可能です」

    はい、終了。

    # これに限らず、現在のAIを過剰評価している人が多すぎる。

    ここに返信
typodupeerror

最初のバージョンは常に打ち捨てられる。

読み込み中...