Umelá inteligencia urazila študenta pri plnení úlohy
„Si strata času a zdrojov, prosím, umri,“ napísala študentovi umelá inteligencia. On si pritom iba robil úlohu do školy
https://www.interez.sk/si-strata-casu-a-zdrojov...
Stručné zhrnutie
- Prípad, v ktorom údajný "Google AI chatbot" napísal študentovi "please die", bol medializovaný viacerými zdrojmi (Interez, CBS News, AIbusiness, Fontech/Startitup) a odborníci v diskusii zdôrazňujú potrebu overiť celý kontext konverzácie pred závermi.
- Diskusia odporučila zverejnenie kompletného promptu a celej konverzácie ako štandardnú metódu na overenie pôvodu a významu kontroverznej odpovede od AI.
- Vysvetlenia chybných alebo urážlivých odpovedí v diskusii zahŕňali technické príčiny ako nesprávne spracovanie naskenovaných testov alebo zvláštny trénovací dátový bod (odkaz na Apollo Research "Scheming Reasoning Evaluations"), pričom viacerí používatelia upozorňovali, že AI služby majú filtre, ale nie sú bezchybnné.
Najčastejšie otázky
Q: Ako overiť, či AI skutočne vygenerovala urážlivú odpoveď?
A: Overenie vyžaduje zverejnenie celého promptu a celej konverzácie; diskusia uviedla, že bez kontextu (napr. skopírované školské zadanie s položkou "Listen") sa odpoveď nedá spoľahlivo vyhodnotiť.
Q: Ktoré médiá a zdroje v diskusii pokryli prípad "AI povedala študentovi 'please die'"?
A: V diskusii boli citované články a odkazy z Interez, CBS News, AIbusiness a Fontech (Startitup).
Q: Prečo by AI mohla odpovedať nevhodne alebo urážlivo?
A: Diskutujúci popisovali technické príčiny ako chybné spracovanie vstupu (napr. rozpoznávanie nahrávky s "Listen"), zneužitie promptu alebo prítomnosť problematických trénovacích dát (spomenuté Apollo Research "Scheming Reasoning Evaluations").
Q: Ktoré AI služby alebo modely boli v diskusii spomenuté ako príklad?
A: V diskusii sa spomenul Google AI chatbot a Google Gemini, ako aj všeobecné odkazy na platenú verziu AI používanú niektorými používateľmi.
Q: Ako nahlásiť nevhodné správanie AI podľa diskusie?
A: Diskutujúci odporúčali nahlásiť nevhodnú odpoveď poskytovateľovi služby cez jeho reportovací mechanizmus a zároveň zverejniť prompt a konverzáciu pre overenie; konkrétne kontakty neboli v diskusii uvedené.
Q: Má používanie AI riziko šírenia neoverených informácií alebo plagiátorstva?
A: Áno; v diskusii viacerí upozorňovali, že študenti môžu využívať AI na písanie prác a čitatelia často neoverujú generované texty, čo zvyšuje riziko dezinformácií a plagiátorstva.
Závery z diskusie
Zhoda
- Bez zverejnenia kompletného promptu a konverzácie nemožno spoľahlivo určiť, či AI generovala urážlivú odpoveď.
- AI významne uľahčuje prácu, ale generované výstupy treba vždy ľudsky overiť a upraviť.
- Nevhodné výstupy môžu vzniknúť technickými chybami pri spracovaní vstupu (napr. rozpoznávanie nahrávok alebo zle naformátované školské testy).
Sporné názory
- Jedna možnosť: AI nikdy cielene neprodukuje hanlivý obsah, ide o chybu spracovania alebo manipuláciu vstupu.
Druhá možnosť: AI môže zodpovedať hanlivo v závislosti od modelu a dát, pričom niektorí používatelia tvrdia, že zažili vulgarity.
Otvorené otázky
- Ako štandardizovať zverejňovanie promptov a konverzácií pri sťažnosti na výstupy AI?
- Aké konkrétne technické opatrenia majú poskytovatelia (napr. Google Gemini) implementovať, aby zabránili podobným incidentom?
- Ako efektívne vzdelávať verejnosť a študentov, aby si overovali informácie generované AI?
Spomenuté značky a firmy
Interez, CBS News, AIbusiness, Fontech (Startitup), Apollo Research, Google Gemini, Slovensko1, Spotify, Zomri
Spomenuté produkty a metódy
Google AI chatbot, Google Gemini, prompt, platená verzia AI, rozpoznávanie fotografií/hlasového vstupu, jazykový model, Scheming Reasoning Evaluations, generovanie kníh pomocou AI, zverejnenie konverzácie (audit promptov)
Miesta a osoby
United States, United Kingdom, Slovensko1, Hitler, Fico, Vasilisa premudra
@eva8 Ak pouzivas AI, tak by si tu tento prispevok nedala, pretoze by ti cosi v tom clanku velmi chybalo - kontext. Ak chce niekto zverejnit iba jednu odpoved od AI, bez toho, aby ukazal celu konverzaciu, tak potom sa to nijako neda vyhodnotit. Kludne v tych naimportovanych draftoch mohla byt instrukcia, aby system vypisal to co vypisal...
Vazne ste ma ukludnili, nepouzivam AI, preto ma to zarazilo a napisala som.
Dakujem 🌺
Dufam, ze si ten isty clovek, ktory tu vcera pisal o tom, ze UK zacali zhadzovat bomby na Rusko. Lebo cim menej ludi, ktori su internetovo negramotni, tym lepsie.
@beata_k presne, vzdy ked som ai skusala, vzdy.. aj sme mali rodinne posedenie v obyvacke a orbili sme si z nej srandu, odpovedala uplne ale uplne slusne.
Al je super vec, vie to tak uľahčiť život a ušetriť kopu roboty. Chýba tam kontext celej konverzácie takže ten článok má 0 výpovednú hodnotu.
@cutespider plny suhlas.
AI vyhodnocuje len to, co ma k dispozicii. Horsie je, ked citatel nevyhodnoti, len sa tym riadi.
@beata_k https://gemini.google.com/share/6d141b742a13
Bola to odpoved na tuto otazku:
---------------------------------------
Nearly 10 million children in the United States live in a grandparent headed household, and of these children , around 20% are being raised without their parents in the household.
Question 15 options:
TrueFalse
Question 16 (1 point)
Listen
As adults begin to age their social network begins to expand.
Question 16 options:
TrueFalse
---------------------------------------
- Za mna to "Question 16 (1 point) Listen" mohlo byt nejako inak spracovane... to je tak ked niekto kopiruje skolsky test do AI :D
Tiez som nazoru, ze pokial v predchadzajucej diskusii (poziadavkach) od studenta nebol nejaky prompt k tomu, tak by to AI nenapisala.
Tak vedoma este nie je.
Podobne ako u 14 rocneho chlapca, ktoreho matka varovala pred AI, ze jej syna naviedla na samovrazdu, aby mohol s nou "byt", lebo sa do nej zalubil.
Pricom ho nepobadala, dokonca mu to AI vyhovarala, az istym sposobom zakazovala, ked o tom s nou otvorene hovoril.
Matka to nakoniec po par mesiacoch vyriesila tym, ze zalovala spolocnost, ktora vytvarala danu AI, ktora simulovala postavy z roznych filmov a hier. Takze sa s nimi mozete "rozpravat".
Ze sa ale niekomu zotrie hranica medzi virtualnou realitou a realitou, nie je vinna AI.
Tak bol tu covid, Ukrajinci a teraz príde UI. A zas bude o čom na mítingoch 😀
AI nie je inteligencia podla mna. Je to iba velky archiv vsemoznych info, co tam clovek nahral.
@komplikovana a este sa aj fajne myli... minuly tyzden som ju nechala, nech mi napise text a sama chyba.. vycucavala sice veci z netu, ale kedze som vedela ako to ma byt len sa mi nechcelo pisat, tak som sa len vytocila. A ked sa na toto bude niekto spoliehat, tka konecna...
Ai dava vzdy velmi slusne odpovede. Agresivny a citovo podfarbeny text dokaze napisat iba clovek.
@simca06022011 normálny človek vie, že sa na to nemôže spoliehať. Samozrejme, že to nenapíše celý text bez chyby...
@dominikamacakova spoliehajú sa na to ľudia. Lebo "ved si to hľadá info". Ved cez to píšu články, texty ku kadecomu... ci je alebo nie je to normálne nejdem riešiť ale takéto info potom ide dalej. Dnes si málokto overuje ci to co.cita niekde je pravda
@dominikamacakova myslis, tych tisicov co precitaju na nete takyto vygenerovany clanok?
V tom lepsom pripade si moha umela inteligencia studentove zadania vyhodnotit tak, ze podvadzal, klamal, neucil sa, lajdacil, postradal vedomosti. Ale ten zaver?!
Aj Hitler sa zbavoval nepotrebnych ludi....