AIによる検閲で”誰も傷つかない”SNS「DYSTOPIA」が話題 – 利用者急増で現状は?

9月25日、株式会社相談箱のAI搭載型SNS「DYSTOPIA」の利用者数が1万人を突破したことが、X(Twitter)の公式アカウントで発表された。9月24日のβ版リリースから、わずか1日での快挙となった。

AIが誹謗中傷を「検閲」するシステムが、リリース直後から話題に

“誰も傷つかない”をコンセプトにしたSNS「DYSTOPIA」(画像は「株式会社相談箱」プレスリリースより引用)

DYSTOPIAは、“誰も傷つかない”をコンセプトにしたSNSで、手のすべての投稿はAIが監視。不適切とされた投稿は、AIによって自動的に適切な表現へと変換された後、タイムラインに投稿される。公式が挙げている投稿例によれば、変換前と変換後で以下のように表現が変わるそうだ。


変換前:「次会ったら、命はないと思え」
変換後:「次にお会いした時は、素敵な時間が過ごせると信じています!」

AIによる変換の一例。不適切な表現を自動で適切(!?)な表現に言い換えてくれる(画像は「株式会社相談箱」プレスリリースより引用)


変換前:「死ねカス!」
変換後:「私の心中は今お祭り騒ぎですな!」

Naomichi Fujiwara氏によれば、多くのSNS上で飛び交う、さまざまな誹謗中傷が問題視される中、たとえ意図したものでなくても、誹謗中傷を未然に防ぐことで「傷つけられた」だけでなく、「誰かを傷つけてしまった」体験からも人々を守れるよう開発したという。また、イギリスの作家ジョージ・オーウェルによるディストピア小説の傑作「1984年」をモチーフにしており、「AIによる検閲」が人々のコミュニケーションにどのような影響を与えるのか、社会実験的な意味合いも込めたサービスになっている、とのことだ。

現状は、不適切画像が散見。利用者急増による資金難など課題も

対象プラットフォームはiOS、Android。基本無料で利用可能だが、月額課金で会員になることで、AI検閲ルールに関与可能。「AI検閲ルールの観覧」や「AI検閲ルールの投票」から「AI検閲ルールの提案」といった具合に段階的に検閲ルールに介入できるようになる予定だ。

「FANBOX」で運営資金を募集中。「DYSTOPIA」のこれからのため、ぜひ支援を!(画像は「ディストピア」pixivFANBOXより引用)

また、本サービスではChat GPTを用いており、利用者数が増えるごとにAPI使用料も二次関数的に伸びているとのこと。公式によれば「明日の朝、破産している可能性すらある」とのことで、クリエイター支援のサービスである「FANBOX」でサポーターも募集している(→こちら)。

なお今回、実際にDYSTOPIAをダウンロードしてみたところ、投稿のあちこちに、AI介入の痕跡らしきものを見て取ることができた。ただ、Chat GPTが使用されているとのことで、現状、画像についてはどこまで検閲されているのかは不明。誰もが利用・閲覧するにはかなり「不適切」な画像も散見され、少々「カオス」な状況となっていた(9月26日時点)。

実験的な意味合いからすれば、このような状況もありなのかもしれないが、元々のコンセプトとしては大いに賛同できるだけに、早急の対策および多くのユーザーの支援がほしいところ。DYSTOPIAの今後を見守っていきたい。

引用元:【ディストピア|pixivFANBOX
引用元:【「DYSTOPIA(@dystopia_sns)」X
出典元:【株式会社相談箱/PR TIMES

※サムネイル画像は(Image:「株式会社相談箱」プレスリリースより引用)

オトナライフ編集部
iPhone・Android・SNS・パソコン関連・キャッシュレス、QRコード決済など、さまざまな情報を独自の視点や切り口で発信するニュースサイト
X/Twitter:@otonalife
YouTube:OTONALIFE Ch

iPhone/Androidスマホやキャッシュレス決済、SNS、アプリに関する情報サイト[オトナライフ]

関連記事

TOPICS
SNS最新記事

RANKINGランキング

18:00更新