Plazením k distópii
Miera, do akej môžu vlády špehovať svojich občanov, závisí nielen od dostupných technológií, ale aj od bŕzd a protiváh, ktoré poskytuje politický systém.
➡️ Počúvanie podcastov Denníka N je najpohodlnejšie v aplikácii Denníka N. Zvuk Vám nepreruší, ani keď zmeníte stránku, a počúvať môžete aj bez pripojenia na internet. Sťahujte kliknutím sem.
Tento text načítal neurálny hlas. Najlepšie sa počúva v aplikácii Denník N, aj s možnosťou stiahnutia na počúvanie offline. Našli ste chybu vo výslovnosti? Dajte nám vedieť.
Autor je člen britskej snemovne lordov
V čase, keď investori nalievajú miliardy dolárov do startupov súvisiacich s umelou inteligenciou, toto šialenstvo začína vyzerať ako špekulatívna bublina podobná holandskej tulipánovej mánii z 30. rokov 17. storočia či juhomorskej bubline zo začiatku 18. storočia. A podobne ako v týchto momentoch sa aj dnes zdá, že boom okolo AI smeruje k nevyhnutnému prepadu. Namiesto vytvárania nových aktív hrozí, že za sebou zanechá len hory dlhov.
Skutočná hrozba
Dnešný humbug okolo AI je poháňaný presvedčením, že veľké jazykové modely, ako je nový OpenAI GPT-4, budú schopné produkovať obsah, ktorý je prakticky nerozoznateľný od výstupov produkovaných ľuďmi. Investori sa spoliehajú na to, že pokročilé generatívne systémy AI bez námahy vytvoria text, hudbu, obrázky a videá v akomkoľvek mysliteľnom štýle v reakcii na jednoduchý dopyt používateľov.
Uprostred rastúceho nadšenia pre generatívnu AI však narastajú aj obavy z jej potenciálneho vplyvu na trh práce. Nedávna správa Goldman Sachs o „potenciálne veľkých“ ekonomických účinkoch AI odhaduje, že automatizáciou je ohrozených až 300 miliónov pracovných miest, čo sa týka mnohých kvalifikovaných pracovníkov a bielych golierov.
Iste, mnohé sľuby a nebezpečenstvá spojené so vzostupom AI sú stále na obzore. Zatiaľ sa nám nepodarilo vyvinúť stroje, ktoré majú úroveň sebauvedomenia a schopnosť informovaného rozhodovania, ktorá je v súlade s chápaním inteligencie u väčšiny ľudí. To je dôvod, prečo mnohí technológovia obhajujú začlenenie „morálnych pravidiel“ do systémov AI skôr, ako prekonajú ľudské schopnosti.
Skutočným nebezpečenstvom však nie je to, že sa generatívna AI stane autonómnou, ako by nás chceli mnohí technologickí lídri presvedčiť, ale skôr to, že sa použije na podkopanie ľudskej autonómie. „Úzke“ aj „univerzálne“ systémy AI, ktoré dokážu vykonávať úlohy efektívnejšie ako ľudia, predstavujú pozoruhodnú príležitosť pre vlády a korporácie, ktoré sa snažia dosiahnuť väčšiu kontrolu nad ľudským správaním.
