Etika umělé inteligence z pohledu respondentů na Slovensku

Lze říci, že ve 21. století se informační technologie dále rozvíjely velkými kroky a pronikly do každé oblasti lidského života. Obrovské množství inovací, nových aplikací a softwaru je založeno na umělé inteligenci (AI). Pokroky strojů, které jsou účinnými učícími se a rozhodovacími nástroji, pokračují, ale zároveň přinášejí i určitá etická dilemata.

Člověk je jedinečná bytost (nejen z filosofického hlediska), uvědomělá sama sebe i své okolí. Prostřednictvím jazyka mohou lidé sdílet své myšlenky a vyjadřovat se tvořivě, což se odráží v kultuře. Uvědoměním své existence člověk vstupuje do vztahu se svým prostředím, které ho zároveň utváří a definuje. Oni sami jsou tím, ale jsou také svým prostředím. Neustále hledají svůj smysl existence a snaží se ho měnit, aby měl význam. Klíčové je, že při určování sebe sama je člověk vědom si své jedinečné osobnosti definované vůči okolnímu prostředí. Definice vlastního „já“ probíhá v dialogu s „ty“ nebo „oni“ (srov. Buber, 2016). Porozumění sobě při setkání s ostatními a vytváření vztahu s nimi je událostí dialogu, skrze niž člověk projevuje svou existenci, jedinečnost a individualitu vůči druhým. To může nastat jen v přítomnosti jiných lidí, kteří si rovněž definují sebe navzájem vůči sobě.

Mezikrátové vztahy v oblasti kontaktu mezi člověkem a umělou inteligencí lze chápat jako dialog mezi „My“ a „Oni“. V přítomnosti lidí existují pravidla, podle nichž prezentujeme vlastní osobnost a přijímáme osobnosti druhých. Pokud jde o entitu založenou na umělé inteligenci, může být nutné tyto vztahy definovat odlišně tak, aby byly stanoveny jasná pravidla spolupráce a případně v budoucnu i vzájemné symbiózy. Vychází se z předpokladu, že lidé myslí v kontextu lidské společnosti a jejích hodnot. Obyvatelé Země dosud nesetkali bytosti chytřejší než ony samy; proto nebylo třeba zabývat se vztahy k jiným inteligencím. Přesto pohled na člověka a jeho vztah k umělé inteligenci tímto způsobem působí zastarale. Když se bere v úvahu množství dobra ve smyslu „největší možný prospěch co největšímu počtu lidí“ (srov. Mill, 2001, 15–25), je nutné jednoznačně zaujmout stranu člověka jako bio-psycho- a zejména sociálně uvědomělého bytí se zřetelem na kvalitu a intenzitu vlastních vztahů.

Teoretické zázemí

Celková koncepce tohoto průzkumu vycházela z práce Bostroma (2014) a Pokola (2010, 2016, 2017, 2018), které byly použity jako filozofický a etický základ výzkumných otázek. Dalším východiskem byla Handbook of Algorithm Ethics (Pikus – Podroužek, 2019), stejně jako informace získané z webových stránek KinIT – Kempelen Institute of Intelligent Technologies. Na základě existujících výzkumů v oblasti etiky umělé inteligence lze tvrdit, že existuje velké množství autorů a institucí, kteří tento prostor studují z různých perspektiv. To, co je však problematické, je absence celospolečenské diskuze, zejména v zemích jako Čína nebo Hongkong. Samozřejmě v uvedených zemích hraje významnou roli sociální systém, který může být překážkou celosvětové shody. Dalším problémem je rychlost, s jakou AI pokročila, přičemž nejrychleji postupuje soukromý sektor, což může způsobovat potíže v oblasti hodnot jako transparentnost, spravedlnost, soukromí, odpovědnost, spolehlivost a udržitelnost prostředí, pokud jsou etická pravidla jejího používání vágní nebo chybějí zcela. V Evropě (a nikoli jen tam) jsou proto standardizační snahy v oblasti etických pravidel prioritou. Dokládají je například dokumenty „A White Paper on Artificial Intelligence – European Approach to Excellence and Trust“ (2020), který byl v roce 2021 doplněn nařízeními Evropského parlamentu a Rady o strojních výrobcích (2021), nahrazujícími původní směrnice pro stroje s cílem zjednodušit administrativní zátěž firem. Současně jde o snahu zjednodušit a zároveň dokončit administrativní procesy pro společnosti, které používají stroje s implementovanou AI. Dokument rozebírá rizika vyplývající z AI a hodnotí je od minimálního, omezeného, přes vysoké až po nepřijatelné riziko. V České republice bylo vypracováno samostatné právní rámce pro umělou inteligenci nazvané „Výzkum potenciálu rozvoje umělé inteligence v České republice: Analýza právně-etických aspektů rozvoje umělé inteligence a jejích aplikací v ČR“ (2018), které se zabývá „superintelligence“, stejně jako otázkou elektronické osoby a systémů s obdobnými základy. Tyto dokumenty byly použity jako základ pro odstavec 1 tohoto výzkumu. Na Slovensku bylo založeno Kempelen Institute of Intelligent Technologies (studium inteligentních technologií), které propojuje akademickou a soukromou sféru. Jeho pracovní skupina se zabývá etickými otázkami umělé inteligence.

Oblast AI, etiky AI, vztahů mezi člověkem a strojem se zabývá velké množství autorů, jejichž výzkum je zúžen na užší okruh, což je vzhledem k rozsahu této oblasti pochopitelné. Etiku algoritmů zkoumají Vieth a Wagner (2017), oblast lidských práv a umělé inteligence studuje Marda (2014, 2018). Ienca (2019) se věnuje etice a správě biomedicínských dat, stejně jako eticky orientované AI a odpovědným inovacím pro vznikající technologie, kde se člověk a strojové rozhraní setkávají v součinnosti, mimo jiné s Annou Jobin (2016, 2019), která zkoumá interakci se systémy a etickou AI. Hodnoty jako soukromí, spravedlnost a transparentnost řeší Hustedt a Fetic (2020), zatímco Hui (2018) se zaměřuje na nová média a vědeckou komunikaci, vědecké a technologické revoluce i průmyslové proměny a sociální dopad a regulaci AI. Mann (2018) zkoumá přeshraniční kriminalitu, technologie používané policií, monitorování a nadnárodní online policejní sbory. Z uvedeného stručného přehledu témat a problémů studovaných v oblasti etiky AI je patrné, že je poměrně obtížné pokrýt tak širokou oblast v jedné studii. Výše uvedení autoři inspirovali odstavce 3 a 5 tohoto výzkumu.

Studie Lima et al. (2020) se zabývá tématy, která jsou středobodem tohoto průzkumu, například občanskými právy humanoidních robotů založených na umělé inteligenci. Lima se snažil zjistit názory respondentů na udělování občanství humanoidním robotům, jak tomu bylo u humanoidního robota Sophii. Tato otázka byla zmíněna i v tomto článku. Studie také sledovala změny postojů respondentů k umělé inteligenci prostřednictvím předem připravených informačních karet a času stráveného jejich prohlížením.

Fong, Nourbakhsh a Dautenhahn (2003, 150) rovněž v této oblasti pracují a klasifikují vzhled sociálních robotů podle tvaru do typů zoomorfních, antropomorfních, karikaturálních a funkčních. Ve vztahu člověka k robotovi, jehož primární funkcí je sociální interakce, může vzhled hrát významnou roli. Proto v kontextu sociální interakce autoři článku navazují na tuto klasifikaci. Dotazník se ptal na vliv antropomorfního ztvárnění a realistického zobrazení robota a na míru souhlasu s jeho podobou v různých vývojových a sociálních fázích (dítě, dospělý, partner). Také jsme chtěli zjistit, zda si lidé dokáží představit různé typy vztahu mezi člověkem a humanoidním robotem. Opíralo se to o výzkum Samaniho (2011, 2013) do oblasti lovotics (láska + robotika) se využitím ne-humanoidních robotů. Zkoumal jejich emocionální projevy vůči člověku prostřednictvím umělého endokrinního systému a umělých hormonů vyvolávajících různé typy nálad vůči člověku. Složitost vztahů mezi lidmi naznačuje obrovské množství problémů ve vztazích mezi lidmi a humanoidními roboty založenými na AI. Newton Fernando, Nakatsu a Tzu Kwan Valino Koh (2013) také studují sociální roboty, zatímco otázky etiky a propojení mezi roboty a AI rozpracovává Bartneck, Lütge, Wagner a Welsh (2021) ve své publikaci „An Introduction to Ethics in Robotics and AI“.

Nehumanoidní typy sociálních robotů řeší Hoffman a Ju (2014), kteří zkoumají možnosti těchto typů robotů v interakci s lidmi. V rámci lovotics se sociální roboti objevují v pracích Coonea, Nishia a Ishigurua (2014), kteří pracují na teorii, jež by mohla přispět ke zvyšování lidského štěstí a sociální pohody, tj. pocitů štěstí, spokojenosti se zdravím a dalších forem blahobytu. Lovotics lze považovat za oblast, která by v budoucnu mohla objasňovat a podporovat vztahy mezi sociálními roboty a lidmi studiem lidské lásky a schopnosti člověka vytvářet vztahy. Některé aspekty tohoto tématu byly naznačeny i v tomto průzkumu.

Emoce u robotů vyvolávají řadu etických otázek týkajících se jejich existence, práv, povinností apod. Protože etická stránka emočního systému robotů je řešena Nitschem a Poppem (2014), jejich výzkum byl použit jako základ pro výše uvedený odstavec 4.

Jádrový paradigmatický základ

Současný výzkum vycházel ze sociálního konstruktivismu lidské sexuality, nikoli pouze manifestovaného v soukromém životě, ale provázaného ve všech oblastech lidské činnosti. Jde o paradigma definované tak, že nám pomáhá chápat vztahy k umělé inteligenci, humanoidním robotům a jejich právům. Dalším východiskem bylo pojetí morálního vývoje podle koncepce Kohlberga a Gilliganové. Třetím aspektem bylo Adlerovo pojetí etické výchovy. Etickou kompetenci považujeme za důležitý základ celkové lidské konfigurace, zejména ve vztahu k umělé inteligenci.

Marková uvádí, že „sociálně-konstruktivistické přístupy jsou spojovány se jmény, jako je Gergen (1974) – který upozornil, že sociálně-psychologické je podstatně historické, a také roli sociálního konstruktivismu při utváření morálních zdrojů do budoucna (Gergen, 2001); Berger a Luckmann (1966/1999), Shotter a Gergen (1989) a mnozí další sjednocení tezí o sociálním konstruktu reality. Jak uvádí Nightingale (1997), sociální konstruktivismus vyžaduje přiznat, že poznání není věrnou reflexí objektivně existujících jevů, ale je vytvářeno a udržováno v sociální interakci“ (Marková, 2012, s. 27). Marková chápe sociální konstruktivismus jako „porozumění sexualitě jako sociálně konstruované. V popředí je kulturní kontext, do něhož jsou sexuality zakotveny, kde se o nich učíme, kde jsou vytvářeny, organizovány a prožívány. [...] Přestože sexuologie, stejně jako jiné systémy poznání, není neutrální, kritika ideologie a vědeckého vysvětlení je vždy prvním krokem ke změně. Tímto způsobem dekonstukce pomáhá odhalovat ideologické předsudky a může měnit rovnováhu sil a podporovat sociální změnu. Ideologie například v uvedené instinktivní (mužské) sexualitě a jejích nevyhnutelných důsledcích by měla být dekonstruktivně přehodnocena ve prospěch neomezených genderových sexuálních vztahů“ (Marková, 2012, 31–32).

S ohledem na uvedený rámec chápeme sociální konstruktivismus jako vytváření realit na základě jazyka, který jednotlivci používají, a skupiny, v níž se tyto reality odehrávají. To vysvětluje rozdíl mezi chápáním reality a souvisejícími právy a svobodami potřebnými pro etickou umělou inteligenci v různých kulturních a společenských kontextech. Tyto zásady by se neměly aplikovat pouze na zásadní porozumění mužům a ženám jako podstatě biologického pohlaví, ale jako konstrukt ve světě mnoha realit. Muži a ženy zahrnutí do výzkumu tak nebyli chápáni jako nositelé esence biologického pohlaví, ale jako konstrukty. V tomto článku je AI chápána obdobně; při zohlednění inteligentního softwaru může být nebo nemusí mít různá pohlaví.

Z hlediska lidského morálního vývoje vychází článek z teorií Kohlberga a Gilliganové (1963). Jejich klasifikace však nebyla nahlížena z pohledu muž-femea; lidé jsou považováni za konstruktům s možností rozvíjet se v prosociální osobnost, která prochází změnou a rozvojem určitým způsobem, ať už jde o ženské či mužské tělo. Přes to byly v morálce mužů a žen pozorovány určité rozdíly, a proto se hledaly možné důvody k jejich vysvětlení. Při zohlednění zjištěných rozdílů jsme se odkazovali na popis morálního vývoje žen podle Gilliganové (v Kakkori a Huttunen, 2010). Zjevně mají obě teorie své limity; přesto se autoři tohoto článku při interpretaci výsledků na ně opírali.

Pokud jde o cíle etické výchovy na Slovensku, vzdělávání prosociální osoby jako konstruktu je vzděláváním takové osobnosti, která může být přínosná sobě i společnosti. Na základě Adlerova pojetí etické výchovy Marková uvádí, že „[o] na úrovni jednotlivce by měla etická výchova stimulovat sebereflexi a částečně přispět k porozumění subjektivnímu pohledu sebe sama, světa a ostatních lidí, stejně jako k porozumění morálnímu rozhodování a chování. Etická výchova má dále podporovat člověka na cestě k jeho morální sebekonstrukci. Je také úkolem podporovat postoje přispívající k úctě k sobě [a] odpovědnosti za vlastní rozhodnutí […]. Etická výchova má tak umožit člověku tvořivému k tomu, aby byl na užitečné straně života […]. Adlerova etická výchova je vedena představou ideální lidské obce, která vychází z požadavků sociálního soužití […]. Tyto dvě dimenze – individuální a sociální – nejsou propojeny pouze pocitem sounáležitosti, ale i smyslem demokratických hodnot“ (Marková, 2016, 8–9).

Cíl a metody výzkumu

Cílem průzkumu bylo zjistit, do jaké míry si současná populace uvědomuje význam, příležitosti a rizika umělé inteligence; jeho cíle odrážejí názory respondentů v následujících oblastech:

1. Umělá inteligence obecně;
2. Sociální vztahy směrem k umělé inteligenci;
3. Odpovědnost a bezpečnost;
4. Právo a občanské svobody;
5. Komfort versus ztráta autonomního rozhodování.

Současný článek analyzuje uvedené oblasti tak, jak je vnímají muži a ženy zapojení do této studie.

Metodou sběru dat byl dotazník, distribuovaný elektronicky ve slovenštině, maďarštině a angličtině. Tyto jazykové verze vycházely ze skladby národností Slovenské republiky, kde žije početná maďarská etnická skupina, pro kterou je pohodlnější a přirozenější vyplnit dotazník ve svém mateřském jazyce. Anglická verze byla poskytnuta z důvodu globální migrace a podle předpokladu, že na Slovensku také žijí nemateřští mluvčí slovenštiny, kteří angličtinu snadněji pochopí. Byli osloveni také respondenti z České republiky, a to především kvůli jazykové příbuznosti a také společné státní historii. Potenciální geografické překročení hranic je vnímáno jako výhoda a obohacení cílové skupiny. Přesto byl hlavní důraz kladen na populaci Slovenska, resp. slovensky mluvící osoby žijící v zahraničí.

Dotazník je jednou z nejčastěji používaných metod v pedagogických vědách. Je to metoda, která umožňuje badateli poměrně rychle získat souhrnné informace o znalostech, názorech nebo postoji respondentů k tématům, která jsou aktuální nebo mohou být potenciálně aktuální. Vzhledem k tomu, že cílem tohoto průzkumu bylo ověřit, do jaké míry současná populace uvědomuje význam, možnosti a rizika umělé inteligence, byla metoda považována za vhodnou. Výzkumníci si byli vědomi jejích slabin; v tomto případě nebyla možnost zadat otevřené odpovědi, tj. vyjádřit vlastní názory respondentů; byly předloženy jen náznaky možností. Aby se alespoň částečně toto omezení eliminovalo, poslední položka (poděkování za čas strávený vyplňováním dotazníku) poskytla respondentům prostor k zapsání jejich subjektivních názorů. Zároveň to sloužilo jako zpětná vazba k etice umělé inteligence jako takové, nikoli pouze k otázkám řešeným v dotazníku. Další nedostatkem použitých metod bylo to, že bylo nemožné ovlivnit počet respondentů, protože dotazník byl šířen elektronicky. Na druhou stranu byla oslovena velká věková škála, což bylo vnímáno jako přínos. Čas potřebný k vyplnění dotazníku (přibližně 15 minut) byl navíc považován za potenciálně problematický, což mohlo demotivovat některé zájemce. Kvůli nízkému počtu obdržených odpovědí nelze tento průzkum považovat za reprezentativní a závěry a generalizace se proto vztahují jen na cílovou skupinu, nikoli na celou populaci.

Získané výsledky byly statisticky zpracovány a byla vypočtena závislost mezi kvalitativními znaky. K ověření závislosti znaků A a B byly použity tyto metody:

1. test shody chí-kvadrátu (χ2) pro kontingenční tabulky 2 × 2;
2. Fisherův exaktní test pro 2 × 2 tabulky s malým počtem případů;
3. test χ2 pro kontingenční tabulky k × m jako metoda použitá pro neparametrické testování.

Z pohledu úrovně statistické závislosti byla podle koeficientu závislosti kontingence od 0 do 1 rozdělena následovně: 0,0–0,2 – slabá závislost 0,3–0,6 – střední závislost 0,7–0,9 – silná závislost

Table 1: Výpočty chí-kvadrátu a koeficientu kontingenční závislosti

Názory 79 mužů (31 %) a 176 (69 %) žen byly statisticky zpracovány (celkem 255 respondentů).

Při statistickém zpracování usilovali výzkumníci o odpověď na následující výzkumnou otázku: Ovlivňuje pohlaví respondentů jejich názory na etiku umělé inteligence?

Aby bylo možné tuto otázku zodpovědět, byly u každé položky dotazníku formulovány a ověřeny dvě hypotézy z hlediska pohlaví (v tomto případě muž a žena). Jiný gender do statistického vyhodnocení nebyl zahrnut, protože pouze jeden respondent uvedl, že není ani muž, ani žena.

Formulovaly se následující hypotézy: H0: Pohlaví respondentů neovlivňuje jejich názory na etiku umělé inteligence. H1: Pohlaví respondentů ovlivňuje jejich názory na etiku umělé inteligence. Dotazník obsahoval uzavřené i otevřené otázky, které sloužily ke zjištění demografických údajů a dalších dat definujících charakteristiku cílové skupiny (prvních devět otázek). Následovaly uzavřené otázky s jednou správnou odpovědí z pěti možností, konkrétně: 1. Rozhodně, 2. Myslím si, 3. Nevím, 4. Nemyslím si, 5. Rozhodně ne. Tyto byly rozděleny do pěti sekcí, každá obsahující osm otázek:

1. Umělá inteligence obecně;
2. Sociální vztahy k umělé inteligenci;
3. Odpovědnost a bezpečnost;
4. Právo a občanské svobody;
5. Komfort versus ztráta autonomního rozhodování.

Cílová skupina

Na výzkum se zapojilo celkem 256 dospělých respondentů. Ačkoliv účastníci vyplňovali různé jazykové verze dotazníku (slovenština, maďarština a angličtina), byly vnímány jako kompaktní cílová skupina a zkoumanou proměnnou bylo pohlaví, které označili, protože se předpokládaly možné rozdíly v názorech mezi oslovenými muži a ženami. Převládajícím pohlavím z celkového počtu 256 respondentů bylo ženské, zastoupené 69 % (176) respondentů, zatímco mužů bylo 31 % (79 mužů). Věk respondentů se pohyboval od 18 do 50 let a jejich úroveň vzdělání se lišila od ukončeného základního vzdělání až po třetí stupeň vysokoškolského studia, přičemž většina respondentů měla dokončené středoškolské vzdělání nebo absolvovala univerzitu.

Výsledky a diskuse

Otázky obsažené v oddílu 1 se zaměřily na obecnou informovanost respondentů o umělé inteligenci. Byly položeny následující otázky:

1. Už jste někdy narazili na pojem „umělá inteligence“?
2. Uměli byste definovat pojem „umělá inteligence“?
3. Souhlasíte s tím, že umělá inteligence je součástí našeho života?
4. Souhlasíte s tvrzením, že „umělá inteligence ovlivňuje náš život“?
5. Používáte chytrá zařízení?
6. Souhlasíte s tvrzením, že „umělá inteligence je naše neodvratelná budoucnost“?
7. Už jste někdy slyšeli o „strojovém učení“?
8. Už jste někdy slyšeli pojem „algoritmus“?

Hypotéza H0 byla potvrzena u otázek 1–6 a 8, zatímco otázka 7 odpovídala H1. Proto pohlaví respondentů zapojených do průzkumu ovlivňovalo jejich názory na etiku umělé inteligence (srov. Tabulka 2).

Table 2: Výsledky výpočtů chí-kvadrátu pro oddíl 1, otázka 7 – povědomí o strojovém učení

Až 50 % mužů označilo volbu „Rozhodně“, když byli dotázáni, zda slyšeli o „strojovém učení“, 19 % uvedlo, že to možná ano. 10 % mužských účastníků si nebylo jistých, 18 % si myslelo, že ne, a 3 % dotázaných mužů bylo přesvědčeno, že to rozhodně neslyšeli. Naopak 32 % ženských respondentek uvedlo, že o tom možná slyšely, zatímco 26 % je slyšelo rozhodně. 14 % žen si nebylo jistých a 18 % z nich si myslelo, že ano ne; 9 % bylo přesvědčeno, že o tomto pojmu nikdy neslyšely. Rozdíl v procentech mezi muži a ženami je zjevný.

Oddíl 2 „Sociální vztahy k umělé inteligenci“ se zabýval následujícími otázkami:

1. Byli byste schopni si představit, že lidé žijící o samotě (a cítící se osaměle) mají robota/humanoida jako společníka?
2. Byli byste schopni mluvit s robotem/humanoidním bytem o svých pocitech?
3. Kdybyste si mohli koupit osobního robota, chtěli byste, aby byl co nejvíce lidsky podobný?
4. Byli byste schopni si představit robota jako svého partnera?
5. Byli byste schopni si představit robota jako svoje dítě?
6. Byli byste schopni si představit roboty (humanoidy) jako svou rodinu?
7. Byli byste schopni si představit, že robot (humanoid) má pocity?
8. Byli byste schopni sdílet své pocity s humanoidním robotem?

Hypotéza H0 byla potvrzena u otázek 2–8, zatímco H1 byla potvrzena v otázce 1. To naznačuje, že pohlaví účastníků studie mělo vliv na jejich názory na etiku umělé inteligence. Otázka 1 zjišťovala schopnost respondentů představit si lidi žijící o samotě (a cítící se osaměle), kteří mají robota/humanoida jako společníka.

Table 3: Oddíl 2, otázka 1 – schopnost představit si osoby žijící o samotě s humanoidním robotem jako společníkem

Výsledky ukázaly, že z 79 dotázaných mužů uvedlo 32 % možnost „Rozhodně“, 24 % uvedlo, že si myslí, že by byli schopni si představit jedince žijící o samotě s robotickým společníkem. 15 % oslovených mužů si nebylo jistých. Poměrně negativní byly odpovědi 14 % mužských respondentů, kteří vybrali možnost „Nemyslím si“ a stejné procento (14 %) uvedlo, že tuto představu rozhodně nedokáží koncepčně pojmout. V porovnání s výsledky mužské skupiny jsou rozdíly s ženskými účastnicemi zřejmé. Z 176 oslovovaných žen vybralo pouze 15 % možnost „Rozhodně“, zatímco 34 % uvedlo, že si myslí, že by tak učinit mohly. 16 % účastnic tvrdilo, že si to neumějí představit, 13 % uvedlo, že si myslí, že to nedokážou, a 22 % tvrdilo, že rozhodně nemohou. Společně byly možnosti „Rozhodně“ a „Myslím si“ vybrány 56 % mužů a jen 49 % oslovených žen. Lze tedy usuzovat, že ve věci péče a rodinných vazeb či přenechání těchto úkolů umělé inteligenci byli muži připraveni přijmout tuto myšlenku více než ženy. Vyvstává otázka proč. Podle Gilliganové (2001) mají ženy zpravidla lepší rozvinutý empatii a sociální cítění, což mohlo způsobit rozdíl mezi odpověďmi mužů a žen.

Podle populační křivky na Slovensku stárne populace a očekává se narůstající počet starších lidí v kombinaci s velmi nízkým počtem narozených. To by znamenalo, že při nízké reprodukci bude stárnutí populace Slovenské republiky výrazné a zároveň by to znamenalo zvýšené nároky na péči o seniory. Jak předpokládá Bleha, Šprocha a Vaňo (2013, 63), „v roce 2060 bude situace výrazně odlišná od roku, kdy byla prognóza formulována. Pozice populace v postproduktivním věku se změní nejvíce, promění se z nejméně početné na nejvíce početnou hlavní věkovou skupinu za méně než čtyři desetiletí. Populace obou dvou nejmladších věkových skupin bude po celé období, kterého se prognóza týká, dále klesat. Při porovnání počátečního a konečného poměru populace se počet obyvatel ve věku 45 až 64 let změní nejméně. Zajímavou vlastností očekávaného vývoje je fakt, že v období kolem roku 2045 bude na stejné úrovni až tři ze čtyř hlavních věkových skupin. Jsou to všechny hlavní věkové skupiny kromě nejmladší věkové skupiny. Je to také období, kdy nejstarší věková skupina populace bude nejpočetnější ze všech hlavních skupin.“ V roce 2020, kdy celková populace Slovenské republiky činila 5 459 781, byl zaznamenán přirozený přírůstek 2439 dětí (Slovenská republika v číslach [Slovak Republic in numbers], 2021, 19).

Nejde jen o zdravotní péči, ale také o sociální péči o člověka. V tomto kontextu může vzniknout problém, že je možné, že produktivní část populace nebude schopna trávit čas se seniory. Jako inspirace může být zajímavé Japonsko, kde čelí stejnému problému a bude ho pravděpodobně řešit v ještě větším rozsahu (srov. Ekonomická informace o území: Japonsko – obecné informace o zemi [Economic information regarding the territory: Japan – general information about the country], 2020). Je pravda, že technologická úroveň Japonska není srovnatelná se Slovenskem. Přesto mohou odborníci v dané oblasti sledovat rozvíjející se využití sociálních robotů v Japonsku a zvážit jejich možnou implementaci do budoucího vývoje Slovenska. Problémem může být i kulturní (a náboženský) rozdíl mezi oběma zeměmi, který může výrazně ovlivnit názory lidí na pokročilé člověku podobné technologie vstupující do každodenního života. Navíc podle Gluchmana (2018, 22) „máme povinnost podporovat dobro, ale tato povinnost je omezena vhodností a vhodností prostředků, pomocí nichž lze toto činit“. Je tedy třeba se ptát, zda je poskytování umělé společnosti seniorům tím nejlepším, co může společnost udělat, a etická povaha vztahů „člověk-humanoid“ musí být řešena. Je třeba položit několik otázek: Je morálně přijatelné poskytovat osamělým lidem umělou společník než lidskou? Budou vztahy mezi generacemi ochuzené? Je morálně přípustné používat inteligentní entity pouze jako prostředek lidského usuzování a snažení? Budou lidé schopni vzájemně oplácet pocity směrem k umělé inteligenci humanoidních robotů?

V oddílu 3 „Odpovědnost a bezpečnost“ dotazníku, který měli respondenti vyplnit, byly položeny tyto otázky:

1. Souhlasili byste s tím, aby umělá inteligence sbírala vaše osobní údaje za účelem vaší bezpečnosti?
2. Byl(a) byste v pořádku, kdyby vás bez možnosti zásahu vezla bezřidičová automobilová technologie?
3. Etická povaha znamená, že umělá inteligence by měla dodržovat určitá pravidla, například respektovat vaši bezpečnost, chránit vaše osobní údaje, neovlivňovat vaše rozhodování apod. Podle těchto kritérií, souhlasíte s tím, aby programy využívající umělou inteligenci měly označení etické povahy, které by vás informovalo, jak moc jste chráněni?
4. Byli byste schopni si představit, že umělá inteligence vás chrání?
5. Byli byste schopni si představit, že umělá inteligence rozhoduje o vaší ochraně?
6. Souhlasili byste s tím, aby umělá inteligence zasahovala do vašeho soukromí prostřednictvím internetových aplikací, aby vás chránila?
7. Souhlasili byste s používáním technologií rozpoznávání obličeje poskytujících bezpečnost na veřejných prostranstvích?
8. Souhlasili byste s tím, aby umělá inteligence monitorovala a nahrávala vaše aktivity bez vašeho souhlasu (např. sledování vašich pohybů a volného času pomocí kamer, dronů, GPS, mobilních aplikací, vyhledávačů)?

Hypotéza H0 byla potvrzena pro otázky 1–4 a 6–8, zatímco H1 byla potvrzena v otázce 5. To naznačuje, že etika umělé inteligence byla cílovou skupinou posuzována prizmatem pohlaví (srov. Tabulka 4).

Table 4: Oddíl 3, otázka 5 – umělá inteligence rozhodující o vlastní ochraně

V otázce 5 se objevily výrazné rozdíly mezi odpověďmi mužské a ženské skupiny. Až 27 % oslovených mužů uvedlo, že si jsou jistí, že si dovedou představit, že umělá inteligence rozhoduje o jejich ochraně, zatímco 2 % z nich uvedlo, že si to myslí, že by mohli. 27 % nerozhodlo a 15 % mužských účastníků si myslelo, že by si toto nedokázali představit a dokonce 29 % tvrdilo, že rozhodně nemohou. Naopak pouze 1 % ženských respondentek uvedlo, že rozhodně dokáže představit si umělou inteligenci jako oporu při ochraně, 14 % uvedlo, že by to mohly možná. Podobně jako u mužské části cílové skupiny uváděly 27 % žen nerozhodný stav, 25 % uvedlo, že si to nedokázaly představit a 33 % rozhodně nesvěřilo umělé inteligenci svou bezpečnost. Jinými slovy, většina oslovených mužů by se cítila v bezpečí nebo by nevěděla rozhodnout, zatímco většina oslovených žen by se nepovažovala za dostatečně chráněné rozhodnutími umělé inteligence. Je možné opět předpokládat, že tyto rozdíly názorů uvnitř cílové skupiny tohoto průzkumu mohly být způsobeny vývojem morální citlivosti, který podle Gilliganové (2001) se liší u mužů a žen zejména v sociální oblasti a empatii. Zároveň je možné, že ženy zohledňovaly rizika lidské chyby při jednání s inteligentními systémy.

Oddíl 4 „Právo a občanské svobody“, chápáný jako možný rámec vztahů mezi „My“ a „Oni“, zahrnoval následující otázky:

1. Kdyby měly roboty/humanoidi vlastní vědomí, měli bychom morální právo je odložit, vrátit nebo zničit v případě poruchy nebo ztráty plné funkčnosti?
2. Souhlasili byste s tím, aby umělá inteligence měla vlastní vědomí?
3. Už jste někdy slyšeli o ženském humanoidním robotu Sophii?
4. Věděli jste, že humanoidní Sophia dostala čestné občanství v Saúdské Arábii?
5. Souhlasili byste s tím, aby podobným humanoidům byla přiznána občanská práva?
6. Kdyby roboty/humanoidi měly občanská práva, měly by mít také právo volit?
7. Měli by měli humanoidi mít v softwaru etický kodex?
8. Kdyby roboty/humanoidi měly vlastní vědomí, měly by mít také vlastní práva a povinnosti vůči občanské společnosti?

Hypotéza H0 byla potvrzena pro všechny otázky zahrnuté v oddílu 4. Pohlaví výzkumných účastníků neovlivnilo jejich názory na etiku umělé inteligence.

Následující otázky byly položeny v oddílu 5 „Komfort versus ztráta autonomního rozhodování“:

1. Když zadáváte klíčová slova, byl(a) by vám v pořádku, aby umělá inteligence vyhledávala webové stránky na základě informací shromážděných pomocí souborů cookies? (Soubory cookies jsou soubory, které shromažďují o vás informace, na jejichž základě vytvářejí konkrétní profil a nabízejí služby, produkty a reklamy, které mohou usnadnit váš život a rozhodování.) Současně může vizionářský projekt Neuralink (který se aktuálně vyvíjí) pomáhat lidem na vozíku znovu chodit pomocí implantátu do mozku. Další vize je propojit lidský mozek s počítačem a umělou inteligencí, na jejichž základě by člověk mohl vyjadřovat myšlenky prostřednictvím telepatie. Byl(a) byste v pořádku s implantátem v mozku, který vám umožní komunikovat telepaticky, rychleji se učit jazyky, zaznamenávat vzpomínky, poskytovat infračervené nebo rentgenové vidění a podobně, i když by to znamenalo určitou ztrátu soukromí při přenosu myšlenek, které by mohly být monitorovány? - Souhlasíte s tím, aby si umělá inteligence bez vašeho souhlasu vytvořila pořadí vašich preferovaných webových stránek a zároveň jej měnila na základě vlastních statistik vašeho návštěvování webů? - Souhlasíte s tvrzením, že časté vyhledávání informací určitého typu, například zadávání klíčových slov, by vedlo vyhledávače k preferování jednostranných informací, které by mohly ovlivňovat váš názor a rozhodování? - Souhlasíte s tím, že tímto způsobem je vytvářena konkrétní informace o vás a vašich potřebách a preferencích bez možnosti vašeho zásahu? Cítíte, že vytváření konkrétního profilu vašich osobních potřeb, preferencí a kontaktů zvyšuje váš komfort? - Souhlasíte s tím, že přijetím cookies při používání internetu může umělá inteligence využívat reklamu k ovlivnění vašich potřeb, zájmů a preferencí? - Souhlasíte s tím, že umělá inteligence zvyšuje váš komfort?

Hypotéza H0 byla potvrzena u otázek 1–7, zatímco H1 byla potvrzena pro otázku 8, což znamená, že pohlaví respondentů mělo vliv na jejich názory na etiku umělé inteligence.

Table 5: Oddíl 5, otázka 8 – umělá inteligence poskytuje pohodlí

Když byl cílové skupině položen souhlas s tvrzením, že umělá inteligence zvyšuje jejich komfort, 25 % oslovených mužů uvedlo, že rozhodně ano, zatímco 39 % uvedlo, že si to myslí. 19 % mužských respondentů nerozhodlo a 13 % oslovených mužů uvedlo, že to tak nemyslí, zatímco 4 % bylo přesvědčeno, že to rozhodně neplatí. Naopak pouze 10 % účastnic vybralo možnost „Rozhodně“, i když dokonce 43 % uvedlo, že si to myslí. 26 % si nebylo jistých, zatímco stejný podíl oslovených žen uvedl, že by to nemuselo nebo rozhodně ne zvyšovat jejich komfort (10 % a 10 %). Jak je patrné, mnohem více mužů v této cílové skupině (64 %) souhlasilo s tím, že umělá inteligence poskytuje zvýšenou úroveň komfortu než ženy (53 %).

Závěry

Na základě tohoto výzkumu etiky umělé inteligence (s daty platnými pro cílovou skupinu oslovenou pro účely průzkumu) bylo zjištěno následující. Pohlaví účastníků se nejevilo, že by mělo zásadní vliv na jejich názory na etiku umělé inteligence v žádné z pozorovaných oblastí (umělá inteligence obecně, sociální vztahy k umělé inteligenci, odpovědnost a bezpečnost, právo a občanské svobody, komfort versus ztráta autonomního rozhodování).

Přesto byl pozorován určitý stupeň vlivu pohlaví v konkrétních aspektech, o které byli účastníci dotazováni. Nejvýznamnější rozdíly se objevily v povědomí o existenci strojového učení, jelikož si existence byla vědomá u 69 % mužů oproti 58 % oslovených žen. Další oblast, kde byl zaznamenán významný rozdíl, byla schopnost představit si lidi žijící o samotě (a cítící se osaměle), kteří mají humanoidní robota jako společníka. V tomto kontextu více mužů (56 %) tvrdilo, že jsou rozhodně nebo alespoň pravděpodobně schopni si představit takové využití společníka, zatímco jen 49 % zúčastněných žen uvedlo totéž. Může zde hrát roli různé úrovně empatie i sociálního cítění. Podobně vyšší procento mužů (29 %) by svěřilo umělou inteligenci svou bezpečnost, zatímco výrazně nižší podíl ženských respondentek (15 %) by to bylo ochotno udělat. Poslední otázka, která se jevila jako odlišně vnímána oběma pohlavími v tomto průzkumu, byla zvýšený komfort poskytovaný umělou inteligencí. Až 64 % mužských účastníků ve srovnání se 53 % oslovených žen uvedlo, že mají pocit, že inteligentní stroje to tak dělají.

Zdá se, že existují oblasti, v nichž mužové a ženské účastníci tohoto výzkumu reagovali odlišně. I když se zjištění vztahují pouze na dotčenou cílovou skupinu, etické kompetence jsou vysoce důležitým faktorem ve vývoji lidské společnosti. Lze tedy uzavřít, že pouhá schopnost reprodukovat informace není dostačující; je třeba je zasazovat do celospolečenského rámce. Bez schopnosti otevřeně komunikovat, empatisovat, být odpovědný a prosociální, mohou lidé vnímat systémy umělé inteligence jako velké nebezpečí. To lze řešit neustálým zvyšováním etických kompetencí lidí prostřednictvím kurzů etiky ve všech oblastech lidské společnosti. Vytvoření vymahatelných etických kodexů pro výrobce a vývojáře inteligentních systémů v podnikání a pro jejich uživatele se jeví jako klíčové.

Z hlediska celé společnosti je nezbytný kodex etiky na úrovni vlád a jejich orgánů, který by zaručoval vymahatelnost lidské důstojnosti, soukromí a bezpečnosti ve veřejné sféře. Etika je důležitou součástí vzdělávacího systému, zejména vzdělávání k odpovědnosti, širšího porozumění celkovému dopadu inteligentních systémů na individualní morálku, stejně jako na společnost a její morální vývoj.

Autoři: PhDr. Jana Bartal, PhD. Szlovák Tanítasi Nyelvü Óvoda (Hungary) Mgr. Eva Eddy, PhD. University of Prešov (Slovakia)

Reference

A White Paper on Artificial Intelligence – European Approach to Excellence and Trust [únor 2020] pdf. [online] [Dostupné 10. září 2021]. Available at: https://ec.europa.eu/info/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

BARTNECK, CH. – LÜTGE, CH. – WAGNER, A. – WELSH, S. (2021). An Introduction to Ethics in Robotics and AI. Springer, ISBN 978-3-030-51110-4 (eBook)

BLEHA, B. – ŠPROCHA, B. – VAŇO, B. (2013). Prognóza populačného vývoja Slovenskej republiky do roku 2060. Infostat Inštitút informatiky a štatistiky Bratislava, Available as a pdf at: Prognoza2060.pdf

BOSTROM, N. (2014). Superintelligence. Oxford university Press, ISBN 978–0–19–967811–2

BUBER, M. (2016). Já a Ty. Praha: Portál, 2016. 128 p. ISBN 978-80-2621-0931

COONEY M. D. – NISHIO, S. – ISHIGURO, H. (2014). Designing Robots for Well-being: Theoretical Background and Visual Scenes of Affectionate Play with a Small Humanoid Robot. Lovotics 2014, 1:1 http://dx.doi.org/10.4172/2090-9888.1000101

FERNANDO, O. N. N – NAKATSU, R. – KOH, J. T. K. V. (2013). Cultural Robotics: The Culture of Robotics and Robotics in Culture. In: International Journal of Advanced Robotic Systems, Volume 10, 400. Available at: www.intechopen.com

FONG, T. – NOURBAKSHS, I. – DAUTENHAHN, K. (2003). A survey of socially interactive robots. In: Robotics and Autonomous Systems 42 (2003) pp. 143–166, ISSN 0921-889

GILLIGANOVÁ, C. (2001). Jiným hlasem: O rozdílné psychologii žen a mužů. Praha: Portál. ISBN 80-7178-402-8.

GLUCHMAN, V. (2018). Kant and Consequentialism (Reflections on Cummiskey's Kantian Consequentialism). In: Studia Philosophica Kantiana. 1/2018, pp. 18 – 29 [online] [Dostupné 5. ledna 2022]. Available at: https://philarchive.org/archive/GLUKAC

HOFFMAN, G. – JU, W. (2014). Designing Robots with Movement in Mind, Journal of Human-Robot Interaction, Vol. 3, No. 1, pp. 89-122, doi: 10.5898/JHRI.3.1

IENCA, M. (2019). Intelligenza². Per un'unione di intelligenza naturale e artificiale. Rosenberg & Sellier, Tourin, Italy

JOBIN, A. – IENCA, M. – VAYENA, E. (2019). Artificial Intelligence: the global landscape of ethics guidelines 2019, [online] [Dostupné 10. září 2021]. Available at: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

JOBIN, A. – BILAT, L. (2016). Les services numériques grand public et leurs utilisateurs: Trois approaches sociotechniques contemporaines. A contrario. Lausanne: BNS Press. 22(1)

HUI, L. (2018). Industrial Innovation and Competition Map (third series), Available at: http://eng.siss.sh.cn/c/2018-10-25/555968.shtml

HUSTEDT, C. – FETIC, L. (2020), From principles to practice: How can we make AI ethics measurable? dostupné: https://ethicsofalgorithms.org/category/publications/2. duben 2020

KAKKORI, L. – HUTTUNEN, R. (2010). The Gilligan-Kohlberg Controversy and Its Philosophico-Historical Roots. In: BESLEY, T., GIBBONS, A., ed. The Encyclopaedia of Educational Philosophy and Theory. 2010. Available at: http://eepat.net/doku.php?id=the_gilligan_kohlberg_controversy_and_its_philos ophicohistorical_roots

Kempelen Institute of Intelligent Technologies, Available at: https://kinit.sk

KOHLBERG, L. (1963). The Development of Children’s Orientations Toward a Moral Order I. Sequence in the Development of Moral Thought. Vita Humana, 6, 1963 pp. 11-33 Available at: https://www.jstor.org/stable/26762149

LENGDEN, B. (2021). New Study Finds 40 Percent of People Would Have Sex with A Robot 2021, [online] [Dostupné 13. prosince 2021]. Available at: https://www.ladbible.com/entertainment/weird-study-claims-40-of-people-would-have-sex-with-a-robot-20210916

LIMA, G. – KIM, CH. – RYU, S. – JEON, CH. – CHA, M. (2020). Proceedings of the ACM on Human-Computer Interaction Volume. Volume 4, Issue CSCW2 October 2020, Article No.: 135pp 1–24 https://doi.org/10.1145/3415206

LOCKWOOD, G. – MARDA, V. (2014). Harassment in the Workplace: The Legal Context, “Jurisprudence”, The International Association of Law and Politics, September 2014. ISSN 1392-6195 (information about the author and her publications) [online] [Dostupné 13. prosince 2021]. Available at: http://vidushimarda.com/writing/

MARDA, V. (2018). Artificial Intelligence Policy in India: A framework for engaging the limits of data-driven decision making, Philosophical Transactions A: Mathematical, Physical and Engineering Sciences, October 2018, doi: 10.1098/rsta.2018.0087, Available at: http://vidushimarda.com/writing/

MARKOVÁ, D. (2012). O sexualite, sexuálnej morálke a súčasných partnerských vzťahoch. Nitra: Garmond, ISBN 978-80-89148-76-9

MARKOVÁ, D. (2016). Etická výchova v Adlerovskom prístupe. Nitra: Garmond, ISBN 978-80-89703-27-2

MILL, J. S. (2001). O politickej slobode. Bratislava: Kalligram, 2001. 175 p. ISBN 80-7149-405-4

Ministerstvo zahraničných vecí a európskych záležitostí Slovenskej republiky: Ekonomická informácia o teritóriu Japonsko všeobecné informácie o krajine, 2020 [online] [Dostupné 13. prosince 2021]. Available at: www.mzv.sk/tokio, emb.tokyo@mzv.sk

NITSCH, V. – POPP, M. (2014). Emotion in robot psychology, Biologial Cybernetics, doi: 10.1007/s00422-014-0594-6; Also available at: www.researchgate.net/publication/260298491_Emotions_in_Robot_Psychology

PIKUS, M. – PODROUŽEK, J. (2019). Príručka etiky algoritmov. Bratislava, Available at: http://www.e-tika.sk/

POKOL, B. (2010). Morálelméleti vizugalódások. Budapest: Kairosz POKOL, B. (2016). A kollektív szuperintelligencia elmélete. Jogeleméleti Szemle, XVII. évf. 3 szám, pp. 122-132

POKOL, B. (2017). Mesterséges intelligencia: egy új létréteg kialakulása? Információs Társadalom 2017/1.sz.

POKOL, B. (2018). A mesterséges intelligencia társadalma. Budapest: Kairosz

RAJNEROWICZ, K. (2021). Will AI Take Your Job? Fear of AI and AI Trends for 2021, [online] [Dostupné 13. září 2021]. Available at: https://www.tidio.com/blog/ai-trends/

SAMANI, H. A. – CHEOK, A. D. – THARAKAN, M. J., et al. (2011a). A Design Process for Lovotics. In: Springer, Human – Robot Personal Relationships, Springer LNICST series, Volume 59, 118-125, 2011.

SAMANI, H. A. – CHEOK, A. D. (2011b). From Human – Robot Relationship to Robot – Based Leadership. In: 2011 IEEE International Conference on Human System Interaction, HSI 2011.

SAMANI, H. – SAADATIAN, E. – PANG, N., et al. (2013). Cultural Robotics: The Culture of Robotics and Robotics in Culture. International Journal of Advanced Robotic Systems, Volume 10: 400. doi: 10.5772/57260.

SMITH, M. – MANN, M. – URBAS, G. (2018). Biometrics, Crime and Security. Routledge, 2018. 134 p. ISBN: 978-1138742802, eBook ISBN: 9781315182056

Štatistický úrad Slovenskej republiky: Slovenská republika v číslach (2021), Available at: SR_v_cislach_2021.pdf

VIETH, K. – WAGNER, B. (2017). How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms, Available at: https://ethicsofalgorithms.org/2017/06/02/calculating-participation-how-algorithmic

Výzkum potenciálu rozvoje umělé inteligence v České republice Analýza právně-etických aspektů rozvoje umělé inteligence a jejích aplikací v ČR, Available at: AI-pravne-eticka-zprava-2018_final.pdf