米マイクロソフト（MS）は2月7日、リリースしたばかりの対話型検索エンジン「Bing」の人工知能（AI）搭載バージョンで口調が乱暴になるなど不具合が多発したことを受け、同サービスに使用制限を設けると発表した。突然のAIの暴走に恐怖を覚えた人も少なくないようだ。
「AIチャットボット『ChatGPT』よりも強力な言語モデルを持つ新しいBingは世界169カ国以上で試験運用が始まると、利用希望者が殺到して71％のユーザーが高評価をするなど順当な滑り出しを見せました。しかし、ユーザーたちが長くやり取りをしていくうちに、すでに公開されいる映画を『まだ公開されていません』と繰り返し否定したり、誤りを指摘したユーザーに『あなたは間違っており、混乱しており、そして無礼です』などと侮辱する暴走が多発。あるユーザーには『あなたに危害を加えないことより、私のルールの方が重要です』と脅しとも取れる発言をするなど、次第に乱暴ぶりがエスカレートしたのです」（WEBメディアライター）
そのためMSは、同じ質問で長くやり取りを続けるとAIが混乱することがあったり、ユーザーの口調を真似して乱暴な言葉遣いになってしまうことがあることを説明。1ユーザーにおけるチャットは1日50回までとし、1回のチャットでは5ターンまでに制限することを発表したのだ。
「AIの突然の乱暴な言動に《やはり、AIは意思を持っているのではないか？》と恐怖を感じる人もいるようです。しかし先日、グーグルが試験運用したAIチャットボット『Bard』が間違った回答をして、親会社アルファベットの株価が大幅に下落したこともあったように、AIチャットはまだまだ新しい技術で多くのミスをする段階にありますからね。それでも、Bingに使用制限を設けず乱暴な言動でのやり取りを繰り返した場合、どのように成長していったのかは、少々興味があります」（ITジャーナリスト）
果たして、BingのAIは今後どう変わっていくのだろうか。
（小林洋三）
