icon

Umelá inteligencia urazila študenta pri plnení úlohy

avatar
eva8
21. nov 2024

„Si strata času a zdrojov, prosím, umri,“ napísala študentovi umelá inteligencia. On si pritom iba robil úlohu do školy
https://www.interez.sk/si-strata-casu-a-zdrojov...

Strana
z2
avatar
hiro
22. nov 2024

@eva8 Ktovie ako sa tam dostalo to "Listen". Mozno mal rozpoznavanie fotiek - odfotil zadanie a vkladal cely text - to by vysvetlovalo aj tie prazdne riadky. Tak ci tak to mohlo nejako schaosit vyber odpovede. Niekde som videl ze ponukalo 3 odpovede - 2 boli ok a jedna tato.
Ktovie, mozno tieto slova aktivovali nejaku ulozenu odpoved ktoru napisal nespokojny trenovac UI na nejaky problem.
Mozno to bolo priamo v zdrojovych datach ako testovaci bod kam sa nema dopracovat - ako ked padne program a vyhlasi problem - no a oni tam dali taketo znenie. Pochybujem ze UI si to sama nejakym sposobom vygenerovala. Mne to znie prilis ludske.

avatar
eva8
autor
22. nov 2024

@hiro dakujem za vysvetlenie. Kazdopadne je to spatna vazba, odkaz, ze si musime davat pozor na to, co vypustime z klavesnice, z ust.

avatar
lenkalienka321
22. nov 2024

@eva8 a to ti na tom tak zaleži, čo napíše nejaký robot? Ja teda AI používam, dokonca platenú verziu, lebo uznávam, že je to veľká pomoc pri niektorých činnostiach. Ale aby som sa AI pýtala na názor na konkrétneho človeka, alebo dala vyhodnotiť profil daného človeka, prípadne sa úplne spolahla na to, čo mi píše, od toho som veľmi ďaleko. Už len za ten krátky čas užívania mi totiž objektívne napísala mnoho " hlúposti", ktoré som musela po nej opravovať.

avatar
eva8
autor
22. nov 2024

@lenkalienka321 zalezi mi na vyvoji spolocnosti.
AI vyhodnocuje udaje, ktore ma k dispozicii. A tych informacii bude cim dalej, tym viac. Nakolko sa vsetko automatizuje, musime si davat pozor, ake data vkladame. A celkovo, povazujem ten odkaz aj za spatnu vazbu na nase spravanie sa.

avatar
lenkalienka321
22. nov 2024

@eva8 to je pravda, ale myslím, že AI nepovedala nič nové, čo my ako ľudstvo už dávno nevieme. AI však nikdy nebude vedieť oceniť našu ľudskú hodnotu. Ako napokon ani niektori ľudia, veď sa len pozrime, ako sa niekedy k sebe správame, horšie ako zvieratá. Naša spoločnosť sa síce technologický vyvíja, ale morálny vývoj oproti tomu technologickému podstatne zaostáva. Pragmatickost AI je v tom, že pri zhodnotení nášho prínosu pre planétu, povedala pravdu. Ale nie je v tom láska. Nie je v tom sucit. Nie je v tom zohľadnenie obety matky pre dieťa...atď. A skutočný život človeka je v prvom rade o týchto veciach. Nikto nechce ostať sám, iba s robotom, alebo v zlatej klietke. Aj keď sa za tým naháňame ako o zivot...

avatar
dominikamacakova
22. nov 2024

@simca06022011 myslím to tak ako som to napísala. Nie je problém AI, že ju tupí ľudia nevedia používať. Veľa ľudí ju používať vie a tým slúži tak ako má....

avatar
dominikamacakova
22. nov 2024

@eva8 informácií pre AI až tak veľa nebude. Ona sa za chvíľu naučila všetky informácie ktoré ľudia zbierali desaťročia a tie nové info nepribúdajú tak rýchlo. Pamätáš na ten film "číslo 5 žije"? Ako čítal knihy? To je princíp umelej inteligencie. Prečítať knihu za sekundu, ale keď prečíta všetky tak kým ďalšiu napíše človek, prejde rok.

avatar
eva8
autor
22. nov 2024

@dominikamacakova v rozhlase na Slovensko1 citali poviedky napisane umelou inteligenciou. Posluchac zadal 10 (?) slov a Ai vygenerovala

avatar
dominikamacakova
22. nov 2024

@eva8 no a? To nevadí... Ona sa z vlastných vymyslených zdrojov neučí.

avatar
eva8
autor
23. nov 2024

@dominikamacakova len mi to napadlo, ked si pisaa o knihach. AI si ich moze napisat sama. Zatial potrebue "roza,y". Lenze, ked si knihu napise sama, uz ju nemusi citat. 🙂

avatar
eva8
autor
23. nov 2024

Mto vie, ako ten prenos informacii v dobe kvantovych pocitacov prebieha. Spracovanie velmi rychlo. Ci to bebude v uducnosti podobne, ako ked opive na kednom konci sveta si zacali umyvat zamiaky vo vode a vzapati aj na 2. konci sveta to opice zacali praktikovat. Nahoda? Rovnaky evolucny vyvoj? Prenos myslienok?
A pri kvanovych pocitacoch to mozno nastane v buducnosti aj bez prepojenia. Vsak castice (neviem ake) zvyknu mat svojho dvojnika. Uvidime, co bude v buducnosti. A v sucasnosti? Miesto plagiatorstva studenti napisu svoje prace pomocou AI.

avatar
silvike
23. nov 2024

@jajka257 Neviem, viacere tu pisete, ze AL nedava hanlive odpovede, ze pise vzdy slusne. No, moja dcera ma inu skusenost. Ona sa AL nieco slusne opytala na co jej "Vasilisa premudra" rozumej AL odpovedala viacerymi vulgarizmami. Dcera to vobec necakala, taku odveci reakciu.

avatar
jajka257
23. nov 2024

@silvike toto som nezažila. Úprimne. Nikdy som hanlivu odpoveď nedostala. Ani dcéra.

avatar
dominikamacakova
23. nov 2024

@eva8 ale ona je/bude v najbližšej dobe naprogramovaná tak aby sa neučila z vlastných zdrojov lebo by degenerovala. Keď nejaká info prejde 10x filtrom umelej inteligencie, nebude už dávať žiadny zmysel. Druhá vec, kto by takú knihu čítal? Ona nevie vyhodnotiť čo ľuďom príde vtipné, čo ich rozplače. Aj trendy v knihách sa menia a tie trendy určujú ľudia a nie AI. Berte tú AI ako nástroj a nie niečo čo má rozum, vedomie, dušu.

avatar
dominikamacakova
23. nov 2024

@silvike tak to treba keď tak nahlásiť

avatar
eva8
autor
23. nov 2024

@dominikamacakova ludia su privemi ovplyvnitelni. Takze nebude vynimkou, ze cim viac sa stane "trendy" pouzivanie AI, tym je vacsia sanca/riziko, ze AI bude urcovat aj trendy. Myslim to tak, ze nepremyslajuci clovek tlaceny cssom vsetky info od AI preberie a bude ich povazovat za "jedinecne"

avatar
dominikamacakova
23. nov 2024

@eva8 ale zas to nie je chyba AI ale ľudí. Kvôli tupcom sa to nezakáže, nie 🤷 A príbehy a knihy môže kľudne generovať, nevidím na tom nič zlé.

avatar
dominikamacakova
23. nov 2024

Kto chce normálny pohľad na AI a nenechať sa ovplyvňovať kadejakými hoaxmi, strachom a Ficom, nech sa páči. Veľmi jednoduché, vysvetlené. https://open.spotify.com/episode/7uVZjUKQyfa3VR...

avatar
eva8
autor
23. nov 2024

@dominikamacakova nevinim IA. Praveze apelujem na nas, na ludi, nech premyslame. Nech nezabudneme premyslat. Nech nezlenivieme 🙂

avatar
dominikamacakova
23. nov 2024

@eva8 jasné, ale ľudia vždy verili blbostiam. Ja napríklad nemám problém prečítať si knihu vygenerovanú AI keď tam dajme tomu logicky zhrnie nejaký súbor informácií a nepotrebujem vedieť či je to dielo človeka. Pokiaľ by chcela napísať komédiu, tak bohužiaľ, nezasmejem sa na tom (možno) čiže v tomto ohľade má "smolu". Všelijaké divné správy si overujem, ja som až moc pragmatický človek na to aby som verila nejakej senzácii viac ako 5 minút... Kto chce bude overovať a naučí sa AI používať vo svoj prospech a kto nechce tak ho nikto nepresvedčí.

avatar
jajka257
25. nov 2024

@eva8 aj pri práci s AI musíš rozmýšľať. Keď mi niečo dá, dám jej ešte párkrát prerobiť a potom si z toho vytvorím svoje. Alebo keď vyrábam niečo, čo neviem nikde nájsť ako vzorový materiál (IAR), tak si dám vytvoriť šablónu. Ale tu tiež dotváram a upravujem presne podľa potreby. Teda ľudia musia pri Tom rozmýšľať. A áno, stalo sa mi, že spravil chybu alebo chyby. Takže len odpísať a tváriť sa, že som to vytvorila ja nejde. Potom by som sa akurát tak hanbila

avatar
tiika
25. nov 2024

@eva8 ja som AI vyzvala, nech ma urazí (lebo to skúšala moja neter), ona nechcela a nedonútila som ju ani za svet. Potom som ju požiadala aspoň o kritiku, tak mi vyhovela, no bolo to napísané veľmi slušne a ohľaduplne.
Je možné, že medzi jednotlivými AI je rozdiel alebo došlo ku chybe. No z mojej skúsenosti je programovana s cieľom pomáhať a neublizovat.

avatar
eva8
autor
9. dec 2024

Chceli ju vypnúť, tak ich oklamala. Umelá inteligencia začala sa správať ako človek
https://fontech.startitup.sk/umela-inteligencia...

avatar
hiro
9. dec 2024

@eva8 "sa pokúsil vytvoriť svoju kópiu a preniesť ju na iné miesto". Az na to ze to zase riadne startitup zavadza. Jazykovy model "recni". Vie odpovedat. To je jeho vstup-vystup. A tak aj v testoch odpovedal - co by teoreticky spravil. Ale su to len generovane vety v ludskej reci. Generovany text ale nema nijake moznosti "vyliezt" niekde inde a nieco vykonat. Su to len pismena na obrazovke. Nema moznost nic menit, nic ine robit.
https://www.apolloresearch.ai/research/scheming...
Tu to je - je to len pismenkova komunikacia. Nic ine.

avatar
eva8
autor
9. dec 2024

@hiro Dakujem. V linku sa pise, ze niektore zamerne klamali v odpovediach, len som prebehla. Precitam neskor dokladnejsie.

avatar
tiika
9. dec 2024

@hiro som rada, že to uvádzaš na pravú mieru. Takýchto desinformacii s cieľom vyvolať obavy, strach, senzácie ohľadom AI bude asi pribúdať. I keď samozrejme treba mat stále zdravý úsudok, byt aj kriticky.

avatar
majusqwa
9. dec 2024

@silvike veď vyzdieľaj prompt a odpoveď, som zvedavá. takto je to jedna baba napísala. AI ti totiž nedá ani nábožensky podfarbené vtipy a neurazí ťa, skúšali to profíci a neotočili ju.

Strana
z2