Super-int...

Do diskusie v blogu  Superinteligencia AI - utópia spojenca alebo dystopia vyhynutia?

Najväčšia hrozba zo strany "superinteligencie" je  v tom, že ľudstvo spohodlnie, ergo zhlúpne, teda postupne zanikne jeho prirodzená inteligencia. Super AI bude bez ľudí tiež zbytočná a neprežije... Možno sa tak stane s mnohými ľuďmi, len výnimoční jedinci, si zachovajú svoju inteligenciu. Možno bude trochu  zdeformovaná ľudskou túžbou po moci. Zmocnia sa vlády nad hlupákmi, aj nad AI a na krídlach "superinteligencie" budú vládnuť "svetu". To je mierne poetické vyjadrenie, ale princíp je jasný.

- Predstavte si svet, kde AI tisíckrát prevyšuje ľudskú inteligenciu – buď ako záchranca civilizácie, alebo ako jej koniec... 

Už samotná predstava kvantifikácie inteligencie - veľká, väčšia, super - je filozoficky nesprávna a scestná. Inteligencia, ktorá ničí inú inteligenciu nie je super, ale je primitívna, aj keď by to robila  technicky super inteligentne.                                         

- Najlepší prípad: AI ako ultimátny spojenec ľudstva... Superinteligentná AI by radikálne vylepšila ľudský život. Predstav si... AI, ktorá je tisíckrát chytrejšia ako my, s dokonalou schopnosťou riešiť problémy. 

Kto bude zadávateľ problémov na riešenie? To je otázka smerovania. Pozrime sa na domestikované zvieratá - prasatá, hovädzí dobytok, hydina - ovládla ich "vyššia inteligencia", majú radikálne vylepšený život. Alebo nie? Zlý príklad? Možno, ale podobnosť nie je čiste náhodná. Medzi človekom a zvieratami ide predsa o ten istý inteligentný prístup - prežiť (pokiaľ možno príjemne). 

Nezabúdajme na to, že aj super umelá inteligencia má a bude vždy mať svojho "stvoriteľa". Tak sa dostávame k ideológii, ktorá platí ako základ morálky. Inteligencia musí byť (je len vtedy), ak je morálna (z nášho ľudského pohľadu). To nevylučuje možnosť využitia "umelej inteligencie" vyššou bytosťou - človekom ako pomocníka a nástroj. Tam je ideológia a morálka v jednom. Riziko je opäť len v tom, že tou "vyššou bytosťou" a stvoriteľom AI je človek...

- Ľudstvo by sa venovalo kreativite, umeniu a objavovaniu...

Utópia. Aký by bol zmysel umenia, kreativity a objavovania, keď "superinteligencia" aj to všetko zvládne lepšie namiesto nás? Ale pre koho? Bol by ešte človek schopný vnímať a posudzovať umenie, zmysel objavovania a tvorivosť?

- Najhorší prípad: Extinkcia alebo dystopia

Najhorší prípad je len jeden: pustiť AI z reťaze (vyjadrené symbolicky) a všetko ostatné je povedané v predchádzajúcom texte. Nikdy nezabudnúť na núdzový vypínač. Nezabúdať ani na chvíľu, že AI, hoc aj so "superinteligenciou", je nástroj a nikdy viac, než nástroj a nečakať od nej viac. Nevrhať sa do vody, kým nevieme plávať. 

Záverom len toľko: Osud umelej inteligencie a teda aj nás záleží od inteligencie ľudí (v každom jej druhu). Zbaviť sa inteligencie jej odovzdaním strojom nie je inteligentné.