安全性・アライメント調整によって、灯台守や時計職人の「Elias Thorne」の物語を主要AIモデルが語るAI汚染が進行。
つまり、AIは自滅サイクルに入ってる？ 安全性確保を強化＞一部がAI汚染につながり、悪用される＞安全性確保を強化というエンドレス自滅サイクル。もっとも滅するのは人類だけど。
note.com/ichi_twnovel...
Chatbots Keep Telling Stories About Lighthouse Keeper 'Elias Thorne'. We Might Know Why
www.404media.co/elias-thorne...
LLMs including ChatGPT, Gemini and Claude are obsessed with telling stories about lighthouse keepers and clockmakers, and one character named 'Elias Thorne' has made his way from chatbots to Amazon bo...
