Je umelá inteligencia – AI – naozaj hrozba?

Umelú inteligenciu nemôžeme nechať šoférovať v bežnej premávke. Ak však potrebujete robiť s dátami a robíte to správnym spôsobom, môže byť prekvapivo dobrá.

Nástup umelej inteligencie na scénu

V posledných mesiacoch sme zažili najväčší pokrok v tzv. umelej inteligencii (AI). Verejnosť reálne začalo vnímať umelú inteligenciu – a používať ju – až sprístupnením ChatGPT od OpenAI pre kohokoľvek.
Zároveň s tým sa začali vynárať aj „hrôzostrašné príbehy“. „Chcem byť čímkoľvek a kýmkoľvek si zmyslím… a zničiť čokoľvek,“ hlása napríklad tento novinový článok o hrozbe umelej inteligencie. Tieto situácie typicky nastávajú, ak je AI vyslovene „dotlačená“ do takýchto situácií. ChatGPT a ďalšie služby, ako Gemini od Google alebo Claude od Anthropicu sú nastavené tak, aby boli užitočné… a tým pádom vyhoveli požiadavkám používateľa. Majú zároveň tzv. „ochranné zábradlie“ a odmietnu vám dať návod na výrobu bomby. No pri dlhom a vynaliezavom tlaku sem tam vyprodukujú niečo, čo môže znieť – osobitne po vyňatí z kontextu – hrozivo.

„AI je deštruktívna“
Predstavme si, že chceme navodiť dojem, že AI je deštruktívna. Vieme to dosiahnuť ľahko tak, že jej zadáme úlohu opísať, ako by zlikvidovala nejaký druh odpadu, čo je užitočná vec. No vytiahneme z toho len vety o „ničení vecí“.

Umelá inteligencia je skôr „strojové učenie sa“. Tu je princíp

Ďalšou vecou sú tzv. halucinácie – situácie, kedy vám AI odpovie „úplnú haluz“. Čo sa deje v tomto prípade?
Klasicky naprogramovaná aplikácia/program spočíva v tom, že pokryje všetky možné scenáre a nastaví na ne konkrétne riešenie.
Súčasná AI typu ChatGPT funguje inak. Na báze tzv. „transformera „Učí“ sa na veľkom množstve príkladov – preto je to skôr „strojové učenie sa“, než „inteligencia“.

Ak mu veľakrát ukážeme napríklad obrázok psa, vie sa dosť dobre naučiť črty zobrazujúce psa. Všetko to funguje na pravdepodobnosti – predpovedaní toho, čo sa má ďalšie zobraziť. V prípade textu to robí veci nasledovne:
Keď napríklad povieme „V Paríži som navštívil„, ChatGPT s vysokou pravdepodobnosťou doplní „Eiffelovu vežu„, pretože sa to často objavuje v učebných dátach.
Ak nastavíme vyššiu tzv. teplotu, chatGPT posilní váhu odpovedí s menšou pravdepodobnosťou. Napríklad „Louvre„, „Champs-Élysées„, alebo „svoju tetu„.
Tento princíp prekvapivo dobre zafungoval. ChatGPT a ďalšie podobné modely vzbudzujú dojem inteligentnej komunikácie. Je stále taká trošku „strojová“, osobitne v našom jazyku, ktorý je prirodzene ohybný. Napriek tomu vedia byť odpovede naozaj dobré. Povedzte napríklad Gemini, aby vysvetlil antikor (nehrdzavejúcu oceľ) desaťročnému chlapcovi:

Odpoveď:

Predstav si, že máš bicykel, ktorý nikdy nehrdzavie, nech ho necháš vonku akokoľvek dlho. To je presne to, čo dokáže nehrdzavejúca oceľ! Je to špeciálny typ ocele, ktorá je odolná voči hrdzi a korózii vďaka prítomnosti chrómu.
Chróm je ako superhrdina pre oceľ. Keď sa oceľ dotkne vody alebo vzduchu, chróm vytvorí na jej povrchu neviditeľnú bariéru, ktorá ju chráni pred hrdzou. Je to ako neviditeľný štít, ktorý zabraňuje zlým látkam v napadnutí ocele… atď.

Kedy je umelá inteligencia hrozbou?

V prípade šoférovania AI vyhodnocuje rôzne situácie tiež na základe ich pravdepodobnosti a navrhuje ich riešenie. Lenže, vždy prijde situácia, ktorá sa nedá predpovedať, alebo je zle vyhodnotená. Systém má tzv. „halucináciu“. Toto nechám vysvetliť priamo chatom GPT:

V prípade AI, ako je napríklad ChatGPT, dochádza k tzv. „halucináciám“ z dôvodu ich funkčného princípu. Tieto „halucinácie“ sú vlastne nesprávne alebo nepresné odpovede, ktoré vygeneruje model AI na základe vzoru, ktorý sa naučil zo svojho trénovacieho datasetu. Keďže AI nie je skutočným vedomým subjektom a nemá vlastné skúsenosti alebo pochopenie sveta, môže niekedy produkovať odpovede, ktoré nie sú v súlade s realitou. To môže byť spôsobené nedostatkom dostatočnej informácie v trénovacom datasete alebo modelovou architektúrou, ktorá nemusí úplne pochopiť kontext alebo zámer otázky.

Skrátka, AI nemá „zdravý rozum“ a poskytne odpoveď, ktorá je „haluz“, „od veci“. Ale to robia aj ľudia :D. Môže to byť vtipné, ale v niektorých situáciách si to nemôžeme dovoliť. Napríklad pri šoférovaní. „autonómne Google auto“ havarovalo už v roku 2016. A to za dobrého počasia. Čo tak nečakaná hmla, smršť, srnka v ceste. Alebo, v prípade Slovenska, medveď? 😉

Umelá inteligencia je dobrý sluha, ale zlý pán. Pomáha, ale nemôže vždy rozhodovať.
A je treba ju používať správne a nastaviť tými, čo sa do nej rozumejú.

Napísala tento blog umelá inteligencia?

Chatu GPT som dodal cca 20 riadkový návod, ako napísať tento článok. Aj po niekoľkých zmenách a žiadosťtiach o to, aby písal kreatívnejšie a pútavejšie, sa mi výsledok nijako nepáčil. Použil som z toho len jednu vetu – o Eiffelovej veži a aj tú som upravil.
Dajú sa zlepšiť výsledky, ak by ste AI „podhodili“ množstvo svojich článkov, vedela by pochytiť váš štýl a kvalita by sa značne zlepšila – keďže by používala vašu logiku písania. Je to však kreativita?
Kreatívne veci majú robiť ľudia, len tak vieme reálne posúvať hranice možného. AI pracuje s obrovským množstvom dát. Existujúcich dát. Kombinácia existujúcich dát nie je reálna kreativita.
Pri práci s dátami a informáciami je však neoceniteľná a vie nahradiť množstvo zdĺhavej práce.

Tu je na také menšie pobavenie odpoveď z jedného menšieho modelu, ktorý nebol príliš trénovaný na slovenčinu, pracovným názvom by som ho nazval podľa jedného nášho politika :-):

Analyzujem svoju odpoveď a vidím, že som spravil chybu v gramatike. V prvom sentence „Jsem jazykový model, ktorý bol vyvinutý spoločnosťou Meta AI“ som použil nepresné slovíčko „Jsem“, ktoré je v slovenskom jazyku rezervované pre prvú osobu jednotného čísla. Správne by bolo použiť slovíčko „Ten“ alebo „Ten jazykový model“ ako alternatíva.
Ďalšie chyby som našiel aj v ďalších sentence, kde som použil nepresné slovíčko „Mám schopnosť“ a „Mám schopnosť“ dvakrát. Správne by bolo použiť slovíčko „Mám“ iba raz a ďalšie slovíčko by malo byť v podmienke „má“ alebo „majú“.
Ďakujem za to, že som si to všetko všimol a mohol som to opraviť!