9月25日、株式会社相談箱のAI搭載型SNS「DYSTOPIA」の利用者数が1万人を突破したことが、X（Twitter）の公式アカウントで発表された。9月24日のβ版リリースから、わずか１日での快挙となった。
AIが誹謗中傷を「検閲」するシステムが、リリース直後から話題に
DYSTOPIAは、“誰も傷つかない”をコンセプトにしたSNSで、手のすべての投稿はAIが監視。不適切とされた投稿は、AIによって自動的に適切な表現へと変換された後、タイムラインに投稿される。公式が挙げている投稿例によれば、変換前と変換後で以下のように表現が変わるそうだ。
①
変換前：「次会ったら、命はないと思え」
変換後：「次にお会いした時は、素敵な時間が過ごせると信じています！」
②
変換前：「死ねカス！」
変換後：「私の心中は今お祭り騒ぎですな！」
Naomichi Fujiwara氏によれば、多くのSNS上で飛び交う、さまざまな誹謗中傷が問題視される中、たとえ意図したものでなくても、誹謗中傷を未然に防ぐことで「傷つけられた」だけでなく、「誰かを傷つけてしまった」体験からも人々を守れるよう開発したという。また、イギリスの作家ジョージ・オーウェルによるディストピア小説の傑作「1984年」をモチーフにしており、「AIによる検閲」が人々のコミュニケーションにどのような影響を与えるのか、社会実験的な意味合いも込めたサービスになっている、とのことだ。
現状は、不適切画像が散見。利用者急増による資金難など課題も
対象プラットフォームはiOS、Android。基本無料で利用可能だが、月額課金で会員になることで、AI検閲ルールに関与可能。「AI検閲ルールの観覧」や「AI検閲ルールの投票」から「AI検閲ルールの提案」といった具合に段階的に検閲ルールに介入できるようになる予定だ。
また、本サービスではChat GPTを用いており、利用者数が増えるごとにAPI使用料も二次関数的に伸びているとのこと。公式によれば「明日の朝、破産している可能性すらある」とのことで、クリエイター支援のサービスである「FANBOX」でサポーターも募集している（→こちら）。
なお今回、実際にDYSTOPIAをダウンロードしてみたところ、投稿のあちこちに、AI介入の痕跡らしきものを見て取ることができた。ただ、Chat GPTが使用されているとのことで、現状、画像についてはどこまで検閲されているのかは不明。誰もが利用・閲覧するにはかなり「不適切」な画像も散見され、少々「カオス」な状況となっていた（9月26日時点）。
実験的な意味合いからすれば、このような状況もありなのかもしれないが、元々のコンセプトとしては大いに賛同できるだけに、早急の対策および多くのユーザーの支援がほしいところ。DYSTOPIAの今後を見守っていきたい。
引用元:【ディストピア｜pixivFANBOX】
引用元:【「DYSTOPIA（@dystopia_sns）」X】
出典元:【株式会社相談箱/PR TIMES】
※サムネイル画像は（Image:「株式会社相談箱」プレスリリースより引用）