#yuvalnoaharari — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #yuvalnoaharari, aggregated by home.social.
-
Přečteno před večeří:
Rostoucí neprůhlednost naší informační sítě je jedním z důvodů nedávného vzestupu populistických stran a charismatických vůdců. Když se lidé přestanou orientovat ve světě a cítí se zahlceni obrovským množstvím informací, které nedokážou zpracovat, snadno podlehnou konspiračním teoriím a začnou hledat záchranu u někoho, komu rozumějí – u člověka. Ačkoli charismatičtí vůdci jistě mají své přednosti, žádný člověk – jakkoli inspirativní a geniální – bohužel nestačí na to, aby rozluštil, jak algoritmy fungují, a zaručil jejich nestrannost. Problém je, že algoritmy se rozhodují na základě velkého množství datových bodů a vztahů mezi nimi. Pro člověka je velmi obtížné uvažovat podobným způsobem. My lidé pracujeme raději s jednotlivými datovými body. Proto když čelíme komplexním problémům – ať už jde o žádost o půjčku, o pandemii, nebo o válku – často se pídíme po jediném důvodu, proč jednat určitým způsobem, a všechna ostatní hlediska přehlížíme. Tak vzniká klam jediné příčiny.
Yuval Noah Harari/ Nexus
-
Přečteno:
Dějiny jsou plné rigidních kastovních systémů, které lidem upíraly možnost změny, ale také diktátorů, již se pokoušeli formovat lidi jako hlínu. Hledat střední cestu mezi oběma extrémy je nikdy nekončící proces.
Yuval Noah Harari / Nexus
-
Přečteno:
V roce 2016 pracoval Dario Amodei na projektu s názvem Universe – pokoušel se vyvinout univerzální umělou inteligenci schopnou hrát stovky počítačových her. AI si vedla dobře v různých automobilových závodech a Amodei se ji rozhodl vyzkoušet v závodě lodí. Proti veškeré logice AI navedla loď přímo do přístavu a tam začala v kruzích donekonečna vplouvat do přístavu a zase jej opouštět.
Amodei dlouho nemohl zjistit, v čem je problém. Podivné chování lodi pramenilo z jeho neschopnosti vysvětlit umělé inteligenci, že jejím cílem je „vyhrát závod“. Koncept vítězství je pro algoritmus nejasný. Přeložit ho do počítačového jazyka by vyžadovalo zformalizovat složité pojmy, jako je pozice na trati a umístění mezi ostatními loděmi v závodu. Amodei proto zvolil snazší cestu a přikázal lodi, aby nasbírala co nejvyšší skóre. Předpokládal, že skóre je dobrým vodítkem na cestě k vítězství. V automobilových závodech to ostatně fungovalo.
Závod lodí však zahrnoval jeden konkrétní prvek, který v předchozích hrách chyběl a díky němuž důmyslná AI našla skulinu v pravidlech. Hráči získali hodně bodů za předstižení lodí soupeřů – podobně jako v automobilových závodech –, ale kromě toho mohli obdržet menší počet bodů, kdykoli doplnili energii zakotvením v přístavu. Umělou inteligenci napadlo, že pokud se nebude snažit předstihnout ostatní lodě, ale jednoduše bude stále vplouvat do přístavu a následně ho opouštět, dokáže nasbírat víc bodů mnohem rychleji. Všem vývojářům hry, stejně jako Dariovi Amodeimu, tato chyba v pravidlech zjevně unikla. AI dělala přesně to, za co ji hra odměňovala – ačkoli nezvolila způsob, ve který lidé doufali. To je podstata problému se sladěním: odměňovat A a doufat v B. Chceme-li, aby počítače maximalizovaly svůj přínos společnosti, je špatné odměňovat je za maximalizaci zapojení uživatelů.Yuval Noah Harari / Nexus