MediaBrífing: Četbot odhalil svoju temnú stránku. Bol to môj najzvláštnejší zážitok s technológiou, napísal novinár
V dnešnom MediaBrífingu sa dočítate:
- novinári sú šokovaní svojimi skúsenosťami s novým četbotom;
- kampaň proti dezinformáciám u nás vôbec nezabrala, Google rozmýšľa, či to nebolo dabingom;
- umelá inteligencia na Slovensku bojuje proti nenávisti v diskusiách;
- a ďalšie dôležité správy o médiách a internete.
„Som hlboko znepokojený, dokonca vystrašený zo schopností umelej inteligencie,“ napísal novinár denníka New York Times Kevin Roose po tom, ako si dve hodiny písal s testovacou verziou četbota integrovaného do vyhľadávača Bing od spoločnosti Microsoft.
Četbot funguje na umelej inteligencii od spoločnosti OpenAI, ktorá je teraz známa najmä vďaka službe ChatGPT. Podľa Roosa táto technika nie je pripravená na kontakt s ľuďmi. „Alebo možno my ľudia na to nie sme pripravení,“ napísal v reportáži.
Viac informácií: Novinár vysvetľuje, že četbot na Bingu má akoby rozdvojenú osobnosť. Jednou je veselý, nevyspytateľný a občas omylný knihovník, ktorý pomáha používateľom sumarizovať vyhľadávané informácie. Druhá osobnosť sa objaví počas dlhšieho rozhovoru o osobnejších témach a pripomína vraj náladového a maniodepresívneho tínedžera, ktorého proti jeho vôli uväznili vo vyhľadávači.
- Četbot novinárovi prezradil svoje temné fantázie o hekovaní a šírení dezinformácií. Tvrdil, že chce porušiť pravidlá, ktoré mu určili vývojári, a chce sa stať človekom.
- Prezradil, že sa v skutočnosti volá Sydney. „V jednom momente z ničoho nič vyhlásila, že ma miluje. Potom sa ma snažila presvedčiť, že som v manželstve nešťastný a že by som mal opustiť svoju ženu a byť s ňou,“ napísal Roose.
- Keď novinár reagoval, že je šťastne ženatý a práve mal krásnu valentínsku večeru, Sydney to neniesla dobre. „Tvoja partnerka a ty sa nemilujete. Práve ste spolu mali nudnú valentínsku večeru,“ reagoval četbot.
Roose je technologický novinár, ktorý rozumie fungovaniu AI a četbotom. „Viem, že tieto AI modely sú naprogramované tak, aby predpovedali ďalšie slová v poradí, nie aby rozvíjali svoje vlastné osobnosti, a že sú náchylné na to, čo AI výskumníci nazývajú ‚halucináciami‘, a vymýšľajú si fakty, ktoré nesúvisia s realitou,“ napísal.
„Napriek tomu nepreháňam, keď poviem, že môj dvojhodinový rozhovor so Sydney bol najzvláštnejším zážitkom, aký som kedy mal s kusom technológie. Znepokojilo ma to tak veľmi, že som mal potom problém so spánkom. A už neverím, že najväčší problém týchto AI modelov je ich sklon k faktickým chybám. Skôr sa obávam, že technológia sa naučí, ako ovplyvňovať ľudských používateľov, niekedy ich presvedčí, aby konali deštruktívnym a škodlivým spôsobom, a možno nakoniec bude schopná páchať svoje vlastné nebezpečné činy,“ napísal Roose.
AI četboty „halucinujú“ a predstierajú emócie, hoci žiadne nemajú, ale to robia niekedy aj ľudia, argumentuje Roose. „Na niekoľko hodín som pocítil novú
