Mohli bychom ztratit smysl pro to, že máme společný osud? Papež František a Dialogy Minerva o AI

Papež František ocenil přínos technologií a umělé inteligence, pokud jsou využívány pro obecné dobro, ale varoval před neetickým nebo nezodpovědným využíváním umělé inteligence.

Učinil tak v pondělí 27. března 2023 ve Vatikánu, když promluvil na „Dialozích Minerva“, každoročním setkání vědců a odborníků na vysoké úrovni, které pořádá vatikánské Dikasterium pro vzdělávání a kulturu.

Na tomto shromáždění se setkávají odborníci ze světa technologií – vědci, inženýři, podnikatelé, právníci a filozofové – a zástupci církve – kuriální úředníci, teologové a etici – s cílem studovat a podporovat větší povědomí o společenském a kulturním dopadu digitálních technologií, zejména umělé inteligence.

„Jsou naše národní a mezinárodní instituce schopny pobídnout technologické společnosti k odpovědnosti za sociální a kulturní dopad jejich produktů? Nehrozí, že by zvýšená nerovnost mohla podkopat náš smysl pro lidskou a sociální solidaritu? Mohli bychom ztratit smysl pro to, že máme společný osud?“

Celá informace na Cirkev.cz, 27. 3. 2023:
Papež František: Lidská důstojnost se neměří algoritmy
Náhledový obrázek: ilustrační

Související:

Umělá inteligence nyní lidem přináší směs fascinace a obav. Část veřejnosti může mít pocit, že když nezasáhneme teď, všemocná AI nám nakonec přeroste přes hlavu. Jenže s tou všemocností to není zase tak horké.

Takzvané velké jazykové modely (LLM), jako je nástroj ChatGPT, mohou lidem navozovat zdání bytosti s vlastním myšlením, nebo snad dokonce city. Opravdu jde ale pouze o zdání nás lidí, kteří máme tendenci k antropomorfizaci – tedy přisuzování lidských rysů čemukoliv, co není člověkem.

Umělá inteligence se rychle učí z ohromného množství dat. Pak je schopná v řádu sekund přelouskat skoro celý internet a poskytnout vám souvisle sepsanou a často i erudovanou odpověď. To ale vůbec neznamená, že ví, o čem mluví nebo píše. Fakticky funguje jako stroj, co umí nahradit třeba práci tisíců rešeršistů, kteří by přečetli tisíce knih a poskytli vám jejich výklad.

Kdyby knihy četli lidé, utvořili by si na ně nějaké názory či by vůči nim získali nějaké pocity, které by nejspíš dál rozvíjeli. Jenže AI takhle nefunguje. Co do ní nalijete, to vám vyplivne, aniž by nad tím dále dumala. Když ji nakrmíte jen knihami velebícími Hitlera, stane se přesvědčenou nacistkou. Po dávce děl o demokracii bude zase burcovat za ochranu základních svobod.

Tahle omezení si je třeba uvědomit. Umělé inteligenci zatím pořád chybí vědomí, které by z ní dělalo entitu podobnou člověku. Jednou se do této fáze může přece jen dostat, i když o tom velká část vědců pochybuje. Neznamená to však, že bychom neměli tuto technologii regulovat.

 

Zdroj: Pointa N, 30. 3. 2023

Související příspěvky