Pred viac ako rokom zverejňujeme Tu v LXA je článok o halucináciách Umelá inteligencia. Sú nebezpečenstvom, ak to chápeme ako stratený čas alebo skutočnosť, že nám môžu zostať nepravdivé informácie. Keď sa ich spýtame na niečo, čo nemôžu rýchlo získať z databázy, môžu odpovedať na čokoľvek, a to sa mi v roku 2025, v ktorom už máme dobre, výrazne nezlepšilo.
Nedávno sa stala populárnou DeepSeek, umelá inteligencia, ktorá k nám prichádza z Číny a ktorá dokáže ponúknuť výsledky podobné tým z ChatGPT alebo ich dokonca zlepšiť. Ale to najlepšie z týchto AI získame, ak aktivujeme možnosti zamysli sa hlbšie, rozum alebo ako to nazvali v predmetnom modeli. V opačnom prípade majú všetci tendenciu zlyhávať v tom istom: reagovať rýchlo bez ohľadu na to, či to, čo hovoria, je správne alebo nie.
Nové halucinácie umelej inteligencie
Z času na čas strávim nejaký čas hraním sa Môj Steam Deck. Nedávno som dokončil základnú hru Borderlands The Presequel a celkom som nepochopil koniec (upozornenie na spoiler): Lilith udiera Handsome Jacka... odkiaľ sa Lilith vzala? Spýtal som sa ChatGPT a ani si nepamätám, čo mi povedal. Ak si spomínam, spomenul som si, prepáčte za nadbytočnosť, sám, že som prenasledoval nášho hráča pomocou jeho neviditeľnosti. Potom som pokračoval, Pekný Jack mal na tvári pánty a nevedel mi povedať, že je to maska.
Najhoršie však bolo, keď som sa ho spýtal, kam musím ísť, aby som si zahral rozšírenie Claptrap Voyage. Čo tu vidíš, čo tam vidíš, čo... Pri hľadaní na internete som zistil, že musím ísť na poschodie 13/2 alebo niečo podobné (teraz si nepamätám názov), čo môžeme urobiť z rýchleho výletu.
Aby som mal viac základov pre tento článok, myslel som na to, že sa spýtam ChatGPT na to isté, ale s odôvodnením, čo som urobil aj v DeepSeek. DeepSeek to vystihol hneď na prvý pokus, zatiaľ čo ChatGPT mi dal dve možnosti, jednu správnu a druhú popierajúcu, že v The Presequel existuje rozšírenie súvisiace s Claptrapom. Vybral som si túto možnosť, aby som zistil, či to vyrieši... ale nie.
Chcete presnosť?
ChatGPT je momentálne najpopulárnejší a používa ho väčšina ľudí. Ak chceme, aby to zdôvodňovalo, musíme čeliť dvom problémom: prvým je, že začatie ponúkania odpovede trvá 20-40 sekúnd, a druhým je, že slobodné uvažovanie je možné len niekoľkokrát za deň; Po prekročení limitu už nefungujú a my sme nútení použiť platený model. okrem toho DeepSeek Vždy vie uvažovať, no niekedy sa zasekne a nefunguje.
Takže buď zaplatíme, alebo počkáme, alebo budeme mať šťastie.
Napriek tomu sú halucinácie o umelej inteligencii stále na dennom poriadku a myslím si, že stojí za to si to pripomenúť, aby sa zabránilo tomu, aby niekto považoval informácie, ktoré nám poskytujú, za samozrejmosť.
Čo ak budeme hľadať?
Čo by mohlo byť užitočné, je nenechať predvolený model reagovať na nás. Je to ten, kto najviac zlyháva, najviac „cuñao“, teda ten, kto najviac odpovedá, aby odpovedal, či odpoveď pozná alebo nie. Tieto modely dávajú odpovede na to, čo sa naučili, a ak sa to nenaučili, snažia sa vyriešiť naše pochybnosti vytváraním vzťahov, ktoré zvyčajne neprinášajú dobré výsledky. Veci sa zmenia, ak stlačíme tlačidlá vyhľadávania alebo uvažovania.
Ak ho požiadame, aby hľadal, urobí to. Zanalyzuje, čo nájde, a ukáže nám výsledok, ktorý by sme mohli vidieť ako súhrn hľadania, ktoré by sme urobili. Možnosť zdôvodniť vám zabráni povedať prvý nezmysel, ktorý vám príde na myseľ, hoci niekedy môže ChatGPT veci zhoršiť.
Umelá inteligencia sa neustále zlepšuje, no ak ju dobre nevyužijeme, bude nás aj naďalej viac miasť, ako pomáhať.