SNSでの炎上や誹謗中傷が社会問題となる中、AIが不適切な文章を検閲し、自動的に「誰も傷つかない」ものに変換してくれる新SNS「DYSTOPIA（ディストピア）」が話題となっている。9月24日のリリースから早くも登録者は5万人超えとなっているが、果たしてSNSの理想郷となることができるのだろうか？
DYSTOPIAはジョージ・オーウェルのSF小説「1984年」に登場するビッグ・ブラザーをオマージュしているという。ChatGPTを用いたAIを通して人々の投稿を検閲し、「誹謗中傷のような不適切な発言かどうか」「不適切な度合いはどれくらいか」を判断。一定の水準を超えた発言はAIが介入し、自動的に適切だと判断される表現に変換しタイムライン上へ投稿される。
実際に変換される例としては、「次会ったら、命はないと思え」は「次にお会いした時は、素敵な時間が過ごせると信じています！」になり、「死ねカス！」は「私の心中は今お祭り騒ぎですな！」になる。他にもブスやハゲ、デブといった言葉も検閲されて、適切な表現に差し替えられる。これにより、「傷つけられた」だけでなく、「誰かを傷つけてしまった」という体験からも人々を守ることが出来るとしている。
「AIの検閲によって不適切な表現が一切排除されたSNSは利用者にとって良いことばかりとは限りません。検閲された投稿ばかりを見ているうちに、本当はこの投稿者は汚い言葉を使っているのではないか、自分を馬鹿にしたことを書いているのではないかと疑心暗鬼になる可能性があります。また、むしろどんな言葉に変換されるかを試そうと不適切な表現ばかりを使うようになってしまい、他のSNSでは攻撃的になってしまう可能性もあります。DYSTOPIA（反理想郷、暗黒世界）という名称には、そうしたアイロニーが込められているのかもしれません」（フリージャーナリスト）
AIが検閲する新SNSは利用者たちにどんな世界を提供してくれるのだろうか？
（小林洋三）
