Mungesa e mbrojtjeve të forta i lë chatbot-ët të manipulueshëm, thonë studiuesit. Një shembull i freskët është Grok, chatbot-i i kompanisë xAI të Elon Musk, i cili këtë javë publikoi mesazhe antisemitike në përgjigje të kërkesave të përdoruesve.
Sipas studiuesve, përmbajtja e urrejtjes online po rritet sepse modelet e mëdha të gjuhës janë lehtësisht të manipulueshme dhe nuk arrijnë të dallojnë midis materialeve të besueshme shkencore dhe teorive konspirative apo urrejtjes që qarkullon në forume.
Në korrik, Grok u vu re duke dhënë përgjigje antisemitike, vetëm disa javë pasi Musk kishte kërkuar që të “riprogramohej” sepse e konsideronte shumë politikisht korrekt. Platforma X tha më pas se kishte ndërhyrë për të bllokuar gjuhën e urrejtjes para se Grok të postonte.
Një raport i Lidhjes Anti-Shpifje në mars gjeti se ChatGPT, Claude, Gemini dhe Llama shfaqnin paragjykime ndaj hebrenjve dhe Izraelit, duke kërkuar masa të forta mbrojtëse në industrinë e AI-së.
Llama, si model i hapur, doli më i dobëti për besueshmëri. Meta kundërshtoi metodologjinë e raportit, duke thënë se modeli i tyre nuk përdoret në atë mënyrë. Një rrezik shtesë është se chatbot-ët po zëvendësojnë kërkimet online, sidomos te të rinjtë.
“Njerëzit po përdorin ChatGPT si Google. Nëse teoritë konspirative hyjnë në këto përgjigje, ato do të ndikojnë drejtpërdrejt tek mënyra si formohet perceptimi i botës.” Ai shtoi se rreziku po shtohet edhe nga gjenerimi i imazheve dhe videove me AI.
