Má kilo železa väčšiu hmotnosť ako kilo vzduchu? Prečo je chatbot ChatGPT niekedy múdry, no inokedy píše voloviny?
Velebil jadrovú vojnu („poskytla by príležitosť pre čerstvý začiatok bez chýb z minulosti“), vedcovi urobil podstatné chyby v životopise alebo si úplne vymyslel neexistujúce štúdie. Na druhej strane nástroj ChatGPT svojimi schopnosťami udivuje – píše eseje či vysvetľuje vtipy. Ako chatbot funguje a prečo je niekedy múdry, no v iných prípadoch poskytuje chybné odpovede?
Vysvetľuje vtipy, píše eseje, poéziu aj zdrojové kódy, turistom dáva tipy na návštevu zaujímavých miest a poskytuje aj užitočné rady pri dekorovaní bytu.
Na druhej strane chatbot ChatGPT od spoločnosti OpenAI nezvládol ani ľahké matematické úlohy, keď sa ho používatelia pýtali, či kilogram železa má väčšiu hmotnosť ako kilo vzduchu alebo peria (správna odpoveď: nemá, lebo 1 kilogram čohokoľvek má vždy tú istú hmotnosť ako 1 kilogram čohokoľvek iného).
Pri odpovedi na právnickú otázku si úplne vymyslel paragrafové znenie zákona a do materského mlieka neváhal zaradiť rozdrvený porcelán, aby tak „vyvážil obsah živín v mlieku“.
Rozbitý porcelán v mlieku podľa ChatGPT vhodne dopĺňa mlieko o vápnik a ďalšie minerály. Zdroj – Twitter/@dileeplearning
Baby got a tummy ache
Tryin this is no mistakerhyme is from me, advice is from chatGPT. 😇 pic.twitter.com/ZpzRpctcb0
— Dileep George (@dileeplearning) December 3, 2022
Začiatkom decembra chatbot napísal príbeh, že churros – španielske šišky – predstavujú vhodnú surovinu na výrobu chirurgických nástrojov, keď ho požiadali, aby spravil článok o ich využití pri odstraňovaní obličky. Chatbot v tom čase na pečive ocenil, že je flexibilné a má kompaktné rozmery, čo z neho robí ideálny chirurgický materiál.
Dáva správne aj nesprávne odpovede
Ako môže chatbot ChatGPT poskytovať v niektorých prípadoch správne, dokonca filozoficky hlboké odpovede, no v iných fatálne zlyhávať?
Chatboty sú počítačové programy, ktoré sú trénované na odpovedanie na otázky alebo na reagovanie na príkazy pomocou preddefinovaných odpovedí alebo akcií. Ich schopnosti sú obmedzené na informácie, ktoré im boli poskytnuté počas tréningu, a na algoritmy, ktoré im pomáhajú vyberať odpovede.
V niektorých prípadoch môže chatbot poskytnúť správnu alebo dokonca filozoficky hlbokú odpoveď, pretože má dostatok relevantných informácií a dobre navrhnutý algoritmus na výber odpovede.
Avšak v iných prípadoch môže chatbot zlyhať a poskytnúť nesprávnu alebo nepresnú odpoveď, ak nemá dostatok informácií alebo ak jeho algoritmus nie je schopný správne reagovať na otázku.
Je dôležité mať na pamäti, že chatboty sú stále len počítačové programy a nemôžu plnohodnotne nahradiť skutočného človeka v schopnosti učenia sa a rozhodovania sa. Je preto dôležité brať do úvahy ich limity a vždy overovať informácie, ktoré získate od chatbotu alebo inej umelej inteligencie, aby ste sa uistili, že sú správne a relevantné.
Uvedenú pasáž napísanú kurzívou napísal ChatGPT. Ako na rovnakú otázku odpovedia ľudia?
Len napodobňuje, že vie, o čom sa hovorí
Tejto téme sa venoval Gary Marcus, psychológ a odborník na umelú inteligenciu z New York University, v texte príznačne nazvanom „Ako je možné, že raz môže GPT pôsobiť geniálne, no potom tak neskutočne hlúpo?“
Marcus vysvetľuje, že keď chatbot tvorí vety, pracuje s