AIもネットのジャンク情報を学ぶと「脳が腐る」と判明

1 日前 1

AIに「ジャンク投稿」を読ませる実験

「Say no to mindless scrolling(何も考えずにスクロールするのはやめよう)」と書かれた、スマホ依存に反対するステッカーです。チームがAIに読ませたジャンクも、反応を集めるのに中身が薄く、注意を引くために書かれた投稿でした。

この疑問に挑んだのは、米テキサスA&M大学のジェンジョン・トゥー助教らのチームです。

チームは、ネットの文章から学ぶAIも、ジャンクを浴び続けると人と同じように知的な力が長く衰えるのではないかと考えました。

ここでいうジャンクとは、反応はたくさん集めるのに中身が薄く、注意を引くために書かれた文章です。

たとえば、全部大文字の「WOW」や「TODAY ONLY(本日限り)」といった言葉を使う投稿です。

うわべだけの暮らしの話や、根拠のない主張、陰謀論なども含まれます。

実験には、2023年に集められた、反応の数つきの公開ツイッター(現X)投稿100万件を使いました。

ジャンクの選び方は2通りあります。

まずは、反応の多さと投稿の長さで選ぶ方法です。

いいね・リツイート・返信・引用が合わせて500を超え、しかも30トークン未満の短い投稿をジャンクとしました。

投稿の反応の多さと長さで、ジャンクと比べる側を分けたしくみの図です。反応はいいね・リツイート・返信・引用の合計で、短くて反応の多い投稿と、長くて反応の少ない投稿が反対側に分かれます。

トークンはAIが文章を区切って読む単位で、単語や記号、よくある言い回しが1トークンになることもあります。

比べる側には、反応が500以下で、100トークンを超える長めの投稿を集めました。

もう一つは、文章の質で選ぶ方法で、小型のAI(GPT-4o mini)に投稿を仕分けさせました。

大文字やハッシュタグ、急がせる言い回しを使う投稿や、取るに足らない話題の投稿がジャンクです。

このAIの仕分けは、大学院生3人が同じ基準で付けた判定と76%一致していました。

どちらの方法でも、ジャンク側と比べる側で、文章の量と学ばせ方はそろえてあります。

そのうえで4種類のAIに、それぞれのデータを追加で学ばせました。

実験の手順を上から順にたどる図です。AIはジャンクを学ぶ組と比べる側を学ぶ組に分かれ、学んだ後に同じテストを受けて成績を比べます。

学んだ後は、考える力、長い文章の理解、安全さ、性格の傾向をテストしました。

こうすれば、成績に差が出たとき、その原因を読んだ投稿の違いに絞り込めます。

記事全体を読む