スマホで撮影した写真や動画を、オンラインのストレージサービスを使って管理しているという人は意外と多い。かくいう筆者も、長年、Googleが提供しているストレージサービス「Googleフォト」のお世話になっている。
2023年3月14日に投稿された、マメ@jetdaizuさんの「結構衝撃だったこと。小さい頃のお風呂に入ってる写真やプールに入ってる写真をGoogleフォトに上げると、警告なしで一発BANされます。(家族だろうが児童ポルノ判定) YouTube, Gmail, Googleドライブ全て利用停止。今写真持ってる方はまだAIに気づかれてないだけなので今のうちに削除しておきましょう」というツイートには、8100件を超える「いいね」がついており、ツイッター上で大きな話題となっている。
今回は、こちらのツイートに関する詳細とリプライ欄に寄せられたさまざまな反応を皆さんにご紹介したい。
結構衝撃だったこと。
小さい頃のお風呂に入ってる写真やプールに入ってる写真をGoogleフォトにあげると、警告なしで一発BANされます。(家族だろうが児童ポルノ判定)
YouTube, Gmail, Googleドライブ全て利用停止。今写真持ってる方はまだAIに気づかれてないだけなので今のうちに削除しておきましょう— マメ (@jetdaizu) March 14, 2023
子どもの写真をGoogleフォトに上げるときは気を付けよう！
（Image:Primakov / Shutterstock.com） 家族写真をGoogleフォトに上げるときには注意が必要だ
子どもがいるご家庭の場合は、日々の成長の記録として、スマホで写真を撮る機会が必然的に多くなる。スマホの容量は、意外とすぐ一杯になってしまうので、Googleフォトは子育て世代の強い味方と言っても過言ではない。
しかし、ツイートによると、小さい子どもがお風呂やプールに入っている写真をGoogleフォトにあげてしまうと、警告なしでアカウントをBANされてしまう場合があるらしい。もしも、そうなった場合、Googleフォトだけならまだしも、GoogleアカウントをひもづけているYouTubeや Gmail、 Googleドライブなども、まとめて利用停止になるそうなので注意が必要だ。
投稿者のマメさんもツイート内で少し触れているが、こうなる背景には、年々増加し続ける児童の性的虐待に関するコンテンツへの対処として、Googleが自動で疑わしい画像を検知するAIシステムを導入しているからである。「疑わしきは罰せず」とは言うが、Googleフォトの場合は疑いがかけられた時点で一発アウトなので、お子さんの写真をアップロードされる際は十分、注意してほしい。
（マメ（@jetdaizu）さんyoutubeより引用）
いかがわしい画像はセーフ？ アウト？
このツイートを見たツイッターユーザーたちからは、「これの何が一番、恐ろしいかというと、クラウドストレージにアップロードしたファイルはすべて強制的に検閲が入るということ。」と、そもそも、すべてのファイルを検閲されていること自体が怖いといった声や、「普通に児ポとかではなく、エッチな画像を保存しているのはセーフなのか？」と、それはそれで消される可能性が非常に高いジャンルのファイルについて心配する声など、さまざまなコメントがリプライ欄には寄せられていた。
Googleフォトにいかがわしい画像を保存するのは、セーフなのか否かについてだが、過去にGoogleドライブにエッチな画像を保存したネットの先人によると、突然Googleから「消した」という通知が来たとのこと。Googleドライブの場合は、非公開のファイルでもいかがわしい系の画像は削除対象になるようなので、Googleフォトでも同様の事態が起こるかもしれない。
こればかりは、さすがの筆者も検証する勇気がないので確定的なことは言えないが、ひとまずGoogle関連のサービスに、いかがわしい画像をアップロードするのは、やめておいた方が無難だろう。
最悪の場合は、警察の捜査が入るかも!?
子どもが小さい頃にお風呂やプールに入っている写真をGoogleフォトにアップロードすると、警告なしでBANされるという今回のツイート。
思いがけず児童ポルノ画像のAI検知に引っかかってしまうと、Googleにひもづいた各種アカウントがBANされるだけでなく、最悪の場合は位置情報や検索履歴、写真、動画などが警察に提出され、捜査も入るとの情報がネットには記載されていた。こうなるともう、冤罪まっしぐらである。
無事に無実が判明しても、Googleアカウントの復活までには、かなり時間がかかるようなので、お子さんがいらっしゃる方は過去の写真から疑われそうなものがないかを、この機会にぜひ一度、チェックしてみてほしい。
※サムネイル画像（Image:Primakov / Shutterstock.com）
