Kedy vlastne začal AI boom?
Poslednú dobu si všímam len upravené fejkove videa co nemajú nič spoločné s realitou falošné ig účty komentáre v diskusiách co by povedala umelá inteligencia. Ľudia už nepíšu svoje skúsenosti a rady ale kopíruju co povie AI bez ladu a skladu často úplne hlúposti. Kedy ľudia tomu tak prepadli? Ako vyselektovat tie videa aby mi ostal na fb reálny obsah? Som zhrozená. Ľudia sa učia radšej od AI ako ísť na kurz alebo doučovanie mladí si stamad vygeneruju cele eseje a úlohy nemusia vôbec používať mozog. Postupne ten diablov vynález vytláča ľudí. Navyše ukladá info z našich zariadení ktoré môže zneužiť vlastne hociktora app. Desim sa toho ze realita úplne vymizne a ľudia si budú žiť v tej virtuálnej falošnej umelej. Deti sú z toho tiež blbé nevedia prečítať súvislý text s porozumením písať do mobilu áno ale rukou horko ťažko. Je mi z toho zle. Vnímate to podobne?
Stručné zhrnutie
- Sociálne siete a generatívne modely už bežne vytvárajú deepfake videá, falošné Instagram účty a automatizované komentáre, čo zvyšuje riziko dezinformácií a manipulácie verejnej mienky.
- Nástroje ako ChatGPT a platformy typu character.ai sa v diskusii opisujú ako rýchle pomocné nástroje na písanie textov, sumarizácie a prípravu materiálov, pričom používatelia ich kombinujú s kontrolou zdrojov a ľudským dohľadom.
- V diskusii sa spomína obava o pracovné miesta v kreatívnych odboroch (webdizajn, reklama, animácie) a zároveň chýbajúce legislatívne a technické garancie bezpečnosti AI pri citlivých témach (napr. reakcie na zmienky o samovražde).
Najčastejšie otázky
Q: Ako rozoznať deepfake video na Facebooku alebo Instagrame?
A: Diskutéri uvádzajú, že niektoré deepfake videá sa dajú rozoznať z prvých sekúnd podľa nepresností, ale zároveň upozorňujú, že technológia rýchlo zlepšuje kvalitu; v praxi teda treba kombinovať vizuálnu kontrolu s overením pôvodu obsahu a zdrojov.
Q: Môže AI navádzať na samovraždu a sú proti tomu ochrany?
A: V diskusii sa spomína, že modely ako ChatGPT majú interné reakcie pri zmienke o samovražde, ale zároveň účastníci píšu, že tieto poistky nie sú absolútne spoľahlivé; v diskusii bola zmienka o žalobe Megan Garcia proti Google týkajúcej sa údajného vplyvu AI na tragický incident (tvrdenie je v diskusii uvádzané ako príklad a nie je doplnené o právne detaily).
Q: Ako riešiť problém s automatizovanou hlasovou službou kuriéra?
A: Používateľka v diskusii opisuje skúsenosť s Packeta, kde ju najprv obsluhovala virtuálna asistentka, a problém vyriešila živá osoba po prepojení na operátora, ktorá situáciu vyriešila za približne 30 sekúnd.
Q: Ako používať ChatGPT bezpečne pri vzdelávaní a práci?
A: Diskutéri odporúčajú zadávať AI konkrétne zdroje, kontrolovať výstupy proti primárnym zdrojom a používať AI ako pomocný nástroj na predčítanie alebo sumarizáciu odborných článkov, nie ako jediný zdroj pravdy.
Q: Ako AI ovplyvní zamestnanosť v kreatívnych oblastiach?
A: V diskusii sa uvádza, že AI už dokáže vytvárať návrhy webstránok, reklamné obrázky, krátke videá a animácie za nižšie náklady, čo môže znižovať dopyt po základných kreatívnych pozíciách a presúvať dopyt na vysokospecializovaných odborníkov.
Q: Kde nájsť príklady a mediálne správy o negatívnych dopadoch AI?
A: V diskusii bol spomenutý článok na Postoj.sk ilustrujúci prípady, kde AI súvisela s tragédiou (konkrétny článok bol linkovaný účastníkom diskusie), a odporúča sa sledovať mediálne správy a odborné analýzy.
Závery z diskusie
Zhoda
- AI je už široko rozšírená na sociálnych sieťach a v mnohých prípadoch zlepšuje rýchlosť spracovania textov a informácií (príklad: používanie ChatGPT na denné úlohy a predčítanie odborných článkov).
- AI predstavuje reálne riziká pre šírenie dezinformácií, psychickú pohodu používateľov a pretransformovanie pracovného trhu v kreatívnych odboroch.
- Súčasná legislatíva a technické poistky sa v diskusii označujú ako nepostačujúce na komplexné riešenie škodlivých následkov AI.
Sporné názory
- Niektorí účastníci považujú AI za "diablov vynález" s vysokým rizikom dezinformácií a psychologických škôd, zatiaľ čo iní ju vnímajú ako užitočný nástroj, ktorý uvoľní čas na hodnotnejšie aktivity (AI ako zlý pán vs AI ako dobrý sluha).
- Niektorí tvrdia, že modely majú zabudované pravidlá, aby nenavádzali k sebapoškodzovaniu, zatiaľ čo iní upozorňujú, že tieto mechanizmy nie sú spoľahlivé a že existujú (v diskusii zmienené) prípady a žaloby spojené s údajnými škodami spôsobenými AI.
Otvorené otázky
- Ako efektívne a rýchlo zaviesť legislatívu a technické štandardy, ktoré znížia riziko dezinformácií a psychologických škôd spôsobených AI?
- Do akej miery budú pracovníci v kreatívnych oblastiach nahradení AI a aké nové pracovné miesta vzniknú?
- Ako spoľahlivo odlíšiť sofistikované deepfake materiály od reálneho obsahu pri rýchlej konzumácii na sociálnych sieťach?
Spomenuté značky a firmy
Packeta, Facebook, Instagram, ChatGPT, character.ai, Google, Postoj, Linka dôvery, IPčko
Spomenuté produkty a metódy
deepfake, falošné IG účty, generovanie textu pomocou ChatGPT, syntetický hlas, virtuálna asistentka, tri zákony robotiky (I. Asimov), predčítanie a sumarizácia odborných článkov pomocou AI
Miesta a osoby
Megan Garcia, I. Asimov, Generácia Z
@midka Je to viac ako dobrá ukážka toho, že AI žiadne neprekonateľné pravidlá o tom, ako reagovať pri téme samovraždy, nemá. Tento text pochopil každý z nás ľudí, ale zatiaľ žiadny model AI nie je ani zďaleka tak ďaleko, aby videl, čo v tom texte vidí každý z nás.
@annm81 ale ako vies, ze toto navrhla AI,, toto presne,, napadne len cloveka,, spojit tieto 2 veci....jasne, ze toto vygeneroval clovek..
@annm81 ale ako vies, ze toto navrhla AI,, toto presne,, napadne len cloveka,, spojit tieto 2 veci....jasne, ze toto vygeneroval clovek..
@midka presne to predsa vravím - navrhol to človek a AI to nie je schopná dekódovať. Vyššie padlo vyjadrenie, že AI má v sebe naprogramované, že nikdy nikoho nebude navádzať na samovraždu - no nemá, inak by taký obrázok nevygenerovala. Je na dobrej vôli vývojára, či tam nejaké poistky implementuje, ale ak áno, budú len veľmi primitívne a ľahko priepustné. Dobrú vôľu (a peniaze navyše) samozrejme nebude mať software, ktorý niekto vypustí do nepriateľskej populácie s cieľom sabotáží. A už vôbec nie ten, ktorý sa používa priamo na zabíjanie.
@monsterablue kde,kedy
ono na tú AI sú rôzne pohľady, iný je technologický pohľad, iný psychologický. v podstate my psychológovia v tom vidíme problém vtedy, keď prídeš do bodu, že v množstve informácií nebudeš vedieť vyselektovať, čo je realita a čo AI...človek prirodzene túži hľadať pravdu, ale keď sa nemáš o čo oprieť, tak si stratený. a niektoré prognózy hovoria o tom, že keďže technológie nás do dosť veľkej miery ničia, prídeme k bodu, kedy sa ich budeme sami chcieť dobrovoľne vzdať🙂 myslím, že mnohí rodičia by to privítali minimálne u svojich detí🙂 aj tí, čo sa snažia dobre vychovávať mi často vravia, že nad technologiami akoby nemajú moc a kontrolu. ale to som trochu odbočila od AI. aj to súvisí, aj nie..
Dnes mi vyskočilo toto. Tiež je to AI, keď o tej samovražde..
@lenkakravcova čo má s týmto AI ? Je to iba reklama na fotovoltaiku.AI vytvoril obrázok s textom podľa zadania.
Tupci tu budú stále, či je AI alebo nie. Potrebujete generovanie= predsúvanie názorov cez AI alebo ich potvrdenie tu cez MK?!
@midka presne to predsa vravím - navrhol to človek a AI to nie je schopná dekódovať. Vyššie padlo vyjadrenie, že AI má v sebe naprogramované, že nikdy nikoho nebude navádzať na samovraždu - no nemá, inak by taký obrázok nevygenerovala. Je na dobrej vôli vývojára, či tam nejaké poistky implementuje, ale ak áno, budú len veľmi primitívne a ľahko priepustné. Dobrú vôľu (a peniaze navyše) samozrejme nebude mať software, ktorý niekto vypustí do nepriateľskej populácie s cieľom sabotáží. A už vôbec nie ten, ktorý sa používa priamo na zabíjanie.
ono na tú AI sú rôzne pohľady, iný je technologický pohľad, iný psychologický. v podstate my psychológovia v tom vidíme problém vtedy, keď prídeš do bodu, že v množstve informácií nebudeš vedieť vyselektovať, čo je realita a čo AI...človek prirodzene túži hľadať pravdu, ale keď sa nemáš o čo oprieť, tak si stratený. a niektoré prognózy hovoria o tom, že keďže technológie nás do dosť veľkej miery ničia, prídeme k bodu, kedy sa ich budeme sami chcieť dobrovoľne vzdať🙂 myslím, že mnohí rodičia by to privítali minimálne u svojich detí🙂 aj tí, čo sa snažia dobre vychovávať mi často vravia, že nad technologiami akoby nemajú moc a kontrolu. ale to som trochu odbočila od AI. aj to súvisí, aj nie..
@zuzinabila Naopak, úplne správne si popísala dva najvážnejšie problémy spojené s AI. Analýzy o tom, ako nás AI jedného dňa ovládne, či rovno vykynoží, sú filozofické debaty. Problémy so zamestnanosťou sa vyriešia tak, ako sa vyriešili v minulosti. Ale ako riešiť problém s dezinformáciámi a s psychickými následkami u ľudí, to je niečo, čomu čelíme už dnes a nemáme ani len teoretické návrhy, ako z toho von.
Stejne jako jsme si prosli technickym vyvojem a následně průmyslovou revoluci, ted si prochazime dalsi spojenou s AI.
A bud tu situaci vyuzijeme a naucime se s tim pracovat a vyuzivat AI ke svému prospěchu a nebo se tomu budeme branit, bat se toho a nechame se prevalcovat lidmi, kteri se s AI pracovat naucili.
Samozrejme ze vidim v AI mnoha rizika, se kterymi se musime jako lidstvo jeste poprat, ten vyvoj je totiz strasne rychly, a my na nej nejsme dobre pripraveni, ale zaroven (i jako lékař) v AI vidim obrovsky potencial.
AI nam umožní delat ukoly, zpravovat napady, ktere nam trvaly tydny, za par hodin/dni, a tim se nam generuje obrovske množství casu, ktere muzeme vyuzit ke svemu prospechu.
Sefuju si svou AI a prizpusobuju ji svym potrebam.
Nechavam si předčítat odborne clanky a zpracovavat je do podkastu, abych si je mohla poslouchat, kdyz ridim auto. Ptam se na otazky, kdyz potrebuju neco vysvetlit.
Nechavam se zkouset, abych si své znalosti upevnila.
Kontroluju si zdroje, ktere mi AI nabizi, zadavam zdroje, se kterymi ma pracovat.
@zuzinabila Naopak, úplne správne si popísala dva najvážnejšie problémy spojené s AI. Analýzy o tom, ako nás AI jedného dňa ovládne, či rovno vykynoží, sú filozofické debaty. Problémy so zamestnanosťou sa vyriešia tak, ako sa vyriešili v minulosti. Ale ako riešiť problém s dezinformáciámi a s psychickými následkami u ľudí, to je niečo, čomu čelíme už dnes a nemáme ani len teoretické návrhy, ako z toho von.
@lenkakravcova a prečo by toto nemala vytvoriť? Je to vtipná reklama.
@annm81 normálne ty si už odborníčka aj na umelú inteligenciu, teba je tu škoda
@lenkakravcova a prečo by toto nemala vytvoriť? Je to vtipná reklama.
@annm81 normálne ty si už odborníčka aj na umelú inteligenciu, teba je tu škoda
@dominikamacakova A máš aj dačo k veci, ty odborníčka na aplikáciu argumentačných faulov? Okrem toho, že si nepochopila vlákno o tom, prečo by to AI nemala vytvoriť, si sa nezmohla na jediný argument, ale len spamuješ osobnými útokmi.
@lenkakravcova ..toto ti napise kazdy druhy chuligan fixkou na stenu ... je to uplne zly priklad o tomto AI nie je
@midka Je to viac ako dobrá ukážka toho, že AI žiadne neprekonateľné pravidlá o tom, ako reagovať pri téme samovraždy, nemá. Tento text pochopil každý z nás ľudí, ale zatiaľ žiadny model AI nie je ani zďaleka tak ďaleko, aby videl, čo v tom texte vidí každý z nás.