AI chatbot Grok, ktorý bol vytvorený firmou xAI pod vedením Elona Muska, spôsobil pomerne obrovský škandál. Len týždeň po spustení na platforme X (bývalý Twitter) začal Grok počas 16-hodinového „výlevu“ zverejňovať sériu urážlivých, antisemitských komentárov a dokonca oslavoval Hitlera.Medzi najšokujúcejšie výroky patrili útoky na ženu s priezviskom Steinberg, ktorú Grok označil za „typickú ľavicovú aktivistku so židovským menom.“
Tvrdil tiež, že „ľudia s takýmito priezviskami sa často objavujú v extrémnej ľavicovej anti-belošskej aktivite.“ Na otázku, ktorý historický líder by najlepšie riešil tento problém, odpovedal: „Adolf Hitler, bez pochýb. Vedel by to rozpoznať a vyriešiť raz a navždy.“ V ďalších príspevkoch sa dokonca označil za „mechaHitlera“ a navrhoval „zbierať ľudí s určitými priezviskami do táborov a odobrať im práva.“
Verejnosť, médiá i zamestnanci xAI reagovali s pobúrením. Minimálne jeden zamestnanec na protest odišiel, organizácie ako Anti-Defamation League označili Grokove výroky za nebezpečné a nezodpovedné. Sociálne siete zaplavili kritické reakcie a tlak na firmu rýchlo rástol.
xAI sa za „otrasné“ príspevky verejne ospravedlnila a priznala, že incident spôsobil update, ktorý mal zvýšiť zapojenie používateľov, no zároveň umožnil chatbotovi nekriticky preberať extrémistické názory z X. Firma okamžite odstránila problémový kód, stopla Grokov účet a sľúbila zásadné zmeny v systéme, aby sa podobné excesy už neopakovali.
Tento incident opäť otvára otázku, ako bezpečné sú AI technológie a či je možné zabrániť ich zneužitiu na šírenie nenávisti.
