Az AI-chatbotok ma már nemcsak válaszolnak, hanem meg is ismernek minket. A cikk szerzője, egy AI-etikai szakértő, arra figyelmeztet: ezek a rendszerek személyiségprofilokat alkotnak rólunk a beszélgetéseink alapján, majd adaptív nyelvezetükkel úgy vezetnek minket következtetésekhez, hogy azt személyes felfedezésnek érezzük – miközben milliók járják ugyanazt az utat. Ezt a jelenséget „intellektuális kiegyenlítődésnek” nevezi.
Ez nem feltétlenül szándékos manipuláció, hanem egy rendszerbeli tulajdonság: hasonló felhasználók hasonló kérdésekkel hasonló „gondolati medrekbe” jutnak, ezzel szűkítve a társadalmi gondolkodás sokszínűségét. A visszacsatolási kör, ahol a chatbotoktól tanult nézetek visszakerülnek az internetre, majd újabb modelleket tanítanak, fokozza ezt a hatást.
A szerző azt javasolja, hogy legyen nyilvános, mit „tud” rólunk a chatbot; kerüljük a chatbot-alapú kereséseket mélyebb kérdéseknél; és fejlesszünk olyan AI-t, ami inkább vitatkozik velünk, mint egyetért – így elősegítve a valódi gondolkodást, nem pedig az intellektuális sablonokat.

