Etika umělé inteligence (Přehledová studie)

Úvod

Základním metodickým předpokladem pro zpracování této přehledové studie byla příprava klíčových slov potřebných k zadání na internetu, na jejichž základě jsem třídila stránky, pdf. dokumenty, články, prezentace a profily. V mém případě šlo o slova umělá inteligence a etika ve slovenském a anglickém jazyce. Na základě takto připravených a sesbíraných informací jsem je následně třídila podle vytvořených kategorií věda, výzkum, politika, soukromý sektor. Následně jsem analyzovala zprávy, internetové články, monografie, profilové a webové stránky, přičemž jsem třídila dokumenty na ty, které jsou základem celé studie, které jsou doplňující a na ty, které jsou okrajové. Kromě analýzy jsem využívala syntézu, jíž jsem chtěla propojovat jednotlivé části, informace prostřednictvím odkazů na jednotlivé dokumenty, které mimo jiné podávají další informace buď o vybraném autorovi, jeho publikacích, činnosti, nebo o organizacích, jejich činnostech, nebo společnostech a jejich činnostech, případně členech těchto společností a jejich vědecké, vývojové praxi a práci. Tato studie je součástí přípravy rozsáhlejšího výzkumu na téma etiky umělé inteligence.

Etika umělé inteligence – přehled stavu ve světě

V červnu 2019 vznikla předběžná souhrnná zpráva, (která byla později publikována jako samostatná monografie) pod názvem Artificial Intelligence Governance and Ethics: Global Perspectives od autorů Angela Daly, Thilo Hagendorff, Li Hui, Monique Mann, Vidushi Marda, Ben Wagner, Wei Wang and Saskia Witteborn, která na 34 stranách pojednává o potřebě implementace etiky, etických standardů do celosvětového systému umělé inteligence, ať už jde o státní nebo soukromý sektor. Jednotliví/é autoři/ky se zabývají rozdílnými úhly pohledu na téma umělé inteligence. Z celosvětového hlediska můžeme říci, že je zřejmá snaha o zavedení etických standardů do používání umělé inteligence v rámci soukromých společností, politických a občanských oblastí. Problémem, jak se ukazuje, je nejednotnost v těchto standardech, ale chybí i celospolečenský diskurz zejména v zemích, jakými je Čína, Hongkong. Přirozeně svou úlohu zde sehrává společenský systém v daných zemích, což může být překážkou v rámci globální dohody. Dalším problémem je rychlost vývoje v oblasti umělé inteligence a pomalá reakce politických a akademických diskurzů v dané oblasti. Přirozeně nejrychlejší je soukromý sektor, což může být z hlediska již zmíněných hodnot transparentnosti, spravedlnosti, soukromí, odpovědnosti, spolehlivosti a udržitelnosti životního prostředí problémem v případě absence etických pravidel jejich používání, případně jejich vágnosti. Samozřejmě lídrem vývoje v oblasti umělé inteligence jsou zatím USA, které mají velmi silně podchycené i etické standardy o ochraně soukromí, občanských svobod a amerických hodnot, avšak vůči americkému lidu, což už neposkytují absolutní občanskou ochranu všech bytostí na planetě Zemi. Také není zřejmé, do jaké míry pokročila implementace těchto etických standardů do praxe a zda nedošlo ke změně. Veřejnou diskusi podnítila australská vláda, která vypracovala etický rámec, jenž by měl obsahovat soubor strategií a postupů zavést do praxe etické principy na vysoké úrovni. Jde o principy posouzení vlivu; interní / externí přezkum; hodnocení rizika; směrnice o nejlepších postupech; průmyslové normy; spolupráce; mechanismy pro monitorování a zlepšování; mechanismy odvolání a; etický rámec Austrálie a související „soubor nástrojů“. Navzdory uvedenému autorky a autoři konstatují, že z hlediska vypracování etických standardů jsou nejpokročilejší Evropská unie a Čína, avšak USA se také na tomto poli snaží dohnat svůj ztracený čas. Nejvíce problematickou se jeví Indie, která nemá zatím vypracovaný etický plán. Z hlediska konkurenceschopnosti jsou ve vedení zatím USA a Čína. V EU se problém konkurenceschopnosti v etických standardech stává viditelným zejména odchodem Velké Británie, která si staví prioritu být vůdcem v etické AI. Autorky a autoři upozorňují na nadrámcovost etických standardů, které sice dávají návod, jak se chovat v rámci práce na AI, problémem však je to, jak se při vývoji nových AI technologií chovat, pokud se vývoj dostane mimo nebo nad rámec daných poskytnutých etických standardů. Dalším problémem je právní závaznost, která zatím nikde nedosáhla formy zákona. Nejvíce pokročilí v tomto směru jsou USA, i když ani zde nejde o zákon. Z tohoto hlediska vyvstává skutečně vážný problém jakéhosi „etického umývání rukou“, což vzhledem k neustálému pokroku v této oblasti není žádoucí. Dalším problémem, na který autorky a autoři upozorňují, je samotný výzkum AI, kdy mohou výzkumníci v případě nového vývoje, který nemusí být standardní, tedy se neshoduje s etickými standardy dané země, v takovém případě se vývoj spolu s vědeckými kapacitami může přesunout do jiné země, která je v tomto směru méně etická. Takové přesuny mohou vést k vážným nejen bezpečnostním ohrožením. (více je možné se dočíst na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf ) V rámci EU vzniká Bílá kniha o umělé inteligenci – evropský přístup k excelentnosti a důvěře. (únor 2020), ke které budou podávat své stanovisko mimo jiné i SlovakAI, a která se zabývá etikou, právem a zásadami pro vznik důvěryhodné etické umělé inteligence. (dostupné na: https://op.europa.eu/sk/publication-detail/-/publication/aace9398-594d-11ea-8b81-01aa75ed71a1/language-sk/format-PDF)

V rámci této přehledové studie bych chtěla zaměřit pozornost na autorky a autory zmíněné souhrnné zprávy a přiblížit jejich profilovou i publikační činnost.

Angela Daly se zabývá sociálně-právní stránkou umělé inteligence. Je autorkou prací jako: Socio-Legal Aspects of the 3D Printing Revolution (Palgrave 2016) Private Power, Online Information Flows and EU Law: Mind the Gap (Hart 2016)) (dostupné online na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf)

V práci Socio-Legal Aspect of the 3D Printing Revolution se autorka Angela Daly zabývá právní stránkou implementace 3D tiskáren do běžné praxe. V práci zkoumá trajektorii 3D tisku v praxi a jeho vzájemné působení s různými oblastmi práva, včetně duševního vlastnictví, odpovědnosti za výrobky, zbraňových zákonů, soukromí údajů a základních / ústavních práv. Zvláštní pozornost také zaměřuje na souvislost mezi 3D tiskem a internetem. Jde o první odbornou analýzu 3D tiskáren z právního hlediska.

Ve své druhé publikaci Private Power, Online Information Flows and EU Law: Mind the Gap (2016), píše o problému privátního šíření informací v EU u silných soukromých ekonomických sil. Tyto ekonomické síly brání volnému šíření informací, čímž brání volnému trhu a znevýhodňují autonomii samotných uživatelů internetu. V práci poukazuje na právní mezeru mezi silnými ekonomickými silami v rámci hospodářské soutěže.

Thilo Hagendorff (Německo) je od r. 2013 výzkumným spolupracovníkem Mezinárodního etického centra věd a humanitních věd (IZEW) na univerzitě v Tübingenu. Je mediálním a technickým etikem. Zabývá se strojovým učením a umělou inteligencí, digitalizací, virtuální realitou, sociálními médii, monitorováním, ochranou osobních údajů, mediální, technologickou a informační etikou. Je autorem tří monografií a množství studií, samostatných příspěvků. Je autorem tří monografií. (dostupné na: https://uni-tuebingen.de/en/facilities/central-institutions/international-center-for-ethics-in-the-sciences-and-humanities/team/dr-thilo-hagendorff/)

Monique Mann (Austrálie) se zaměřuje na nadnárodní zločin, policejní technologie, sledování a nadnárodní online policejní službu. Je členkou správní rady australské nadace na ochranu soukromí. (dostupné na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf) Je autorkou Politicising and Policing Organised Crime (Politika a policejní organizovaný zločin) (Routledge 2019), v níž se zabývá problémem organizovaného zločinu mimo jiné i pomocí internetu, či umělé inteligence. (základní informace dostupné na: https://www.routledge.com/Politicising-and-Policing-Organised-Crime-1st-Edition/Mann/p/book/9781138067332) Zároveň je spoluautorkou publikace Biometrics, Crime and Security (Routledge 2018), kde hlavním motivem je vztah mezi biometrickými údaji - identifikací DNA, otisky prstů, skenováním obličeje jako nástrojem včasného odhalení kriminální činnosti versus lidská a individuální práva. Zkoumá vývojem těchto technologií ve státech Evropy, USA, Velké Británie a Austrálie, soustředí se zejména na jejich jurisdikci.

Vidushi Marda (Indie) je právnička, která se zabývá výzkumem umělé inteligence a lidských práv. Momentálně se zabývá vlivem systémů strojového učení na výkon práv v Asii. Zmíněná autorka měla svými studiemi vliv na Nejvyšší soud Indie, který v r. 2017 rozhodoval o právu na soukromí. Je autorkou a spoluautorkou odborných prací jako např. : Marda, V. Artificial Intelligence Policy in India: A framework for engaging the limits of data-driven decision making, nebo Lockwood, G., & Marda, V. Harassment in the Workplace : The Legal Context, “JURISPRUDENCE”, The International Association of Law and Politics. Autorka je nerezidentní analytičkou AI a práva v Carnegie India. (Dostupné na: http://vidushimarda.com/writing/)

Ben Wagner pracuje ve společnosti Stiftung Wissenschaft und Politik (SWP) v Berlíně. Výzkumně se zaměřuje na technologii, lidská práva a zodpovědné informační systémy. V letech 2014-2016 byl zakladatelem a ředitelem Centra pro internet a lidská práva na Evropské univerzitě Viadrina. Zabývá se etikou a algoritmy – je algoetik. V rámci své odborné práce je součástí projektu „Etika algoritmů“, který vypracovala společnost Bertelsmann Stiftung (dostupné na: https://ethicsofalgorithms.org/project/). Cílem tohoto projektu je zvýšit povědomí o možnostech a rizicích využívání algoritmů v běžné praxi. Právě používání algoritmů vyžaduje přesná etická pravidla tak, aby se využívaly ve prospěch lidstva. Projekt je týmovou prací, kde jednotliví pracovníci na stránce společnosti prezentují své výstupy v rámci krátkých zpráv. Pro prohloubení znalostí v dané oblasti nezřídka nabízejí celé dokumenty v pdf. formátu v anglickém a německém jazyce. Takovým dokumentem je i How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms #2 dostupný v pdf. formátu (https://ethicsofalgorithms.org/2017/06/02/calculating-participation-how-algorithmic) od autorského týmu Kilian Vieth a. Ben Wagner. Základní myšlenkou zmíněného dokumentu jsou možnosti algoritmů, které už jsou součástí našich životů. Upozorňují na to, že algoritmy jsou součástí moci v digitální společnosti a stávají se nástrojem moci. V dokumentu vysvětlují základní pojmy, obecný přehled o procesech algoritmů (Algorithm desicion making –ADM), vymezují relevantní oblast v analýze procesů ADM a předložením typických scénářů a funkcí, které se týkají jejich použití. Zároveň poukazují na problém sociální autonomní identity zaměstnanců, které může systém algoritmů na základě pracovní platformy přesouvat podle potřeby trhu, avšak autonomní seberozhodování zaměstnanců má pouze slabou platnost. Právě tento moment lidské potřeby autonomního osobnostního rozhodování v sociální (pracovní) sféře může poukazovat na nedostatečnost ADM. Na druhé straně ve sféře policejních vyhodnocovacích systémů se ukazuje, že algoritmy rozpoznávání tzv. hotponů – tedy míst s vyšší kriminální činností se osvědčily a používají se ve velkých městech v Evropě, ale i jinde. Zároveň je známý systém COMPAS, kde se algoritmické rozhodování uplatňuje při predikci recidivy u pachatelů kriminálních činů. Tento systém byl vyvinut k předvídání lidského chování a klasifikaci lidí. Takže můžeme vidět široké uplatnění algoritmického rozhodování v praxi, což však s sebou přináší mnohé etické otázky, jak na to poukazují autoři tohoto dokumentu Kilian Vieth a Ben Wagner.

Autorky Carla Hustedt a Lajla Fetic pracovaly na pracovním dokumentu společnosti Bertelsmann Stiftung, o němž se blíže zmiňuje v diskusním příspěvku pod názvem From principles to practice: How can we make AI ethics measurable? kde se řeší problém zavádění umělé inteligence a jejích etických pravidel. Jak uvádějí autorky, bariéru mezi soukromým, politickým, občanským a vědeckým sektorem se snaží překlenout pracovním dokumentem, který by poskytl etická pravidla pro zavádění AI (umělé inteligence) do praxe. Jak dále pokračují autorky na webové stránce, jde především o zachování hodnot soukromí, spravedlnosti a transparentnosti. Na této webové stránce se také dočteme v téže diskusi, že roku 2019 vydala společnost Bertelsmann Stiftung svůj soubor Algo.Rules. Je to soubor devíti principů etického rozvoje a používání algoritmických systémů. V současnosti, podotýkají autorky, čelí výzvě tato pravidla implementovat do praxe. Problém v této implementaci etických algoritmů vidí v tom, že neexistuje přesná definice hodnot jako spravedlnost, transparentnost, soukromí, což ztěžuje tvorbu pevných algoritmů, které by byly měřitelné a kontrolovatelné. Autorky a autoři tohoto dokumentu navrhují etické označení pro systémy AI podobně jako je tomu u elektronických spotřebičů, kde jsme informováni o jejich standardu, který lze měřit. V pracovním dokumentu se po důkladné analýze navrhuje vybrat 6 klíčových hodnot, jimiž by byly transparentnost, soukromí, zodpovědnost, spravedlnost, spolehlivost a udržitelnost životního prostředí. Jednotlivé produkty AI by dostávaly ratingové označení (podobné jako u bílých spotřebičů, nebo pneumatik – poznámka autorky) Autorky také poukazují na potřebu systémových norem i procesních norem, které by ukazovaly důležité informace jednak pro společnosti, ale i pro cílové uživatele a upravovaly by vztah mezi nimi. Poukazují i na různorodost škály působení jednotlivých matic, protože odlišně se budou posuzovat v průmyslové oblasti a jinak v oblasti medicíny apod. Podotýkají, že by mělo jít o trojrozměrný algoritmus, který by hodnotil více dimenzionální etickou škálu. Dále navrhují zřídit pětistupňovou škálu rizika používání AI podle rizika od 0 (žádné riziko) až po 4, kde by se vlastně systém umělé inteligence používat neměl. (dostupné na: https://ethicsofalgorithms.org/category/publications/)

Další na poli AI je Saskia Witteborn, která se specializuje na nadnárodní migraci a technologie. Autorka má odborné znalosti z nucené migrace, z oblasti mobility a vesmíru, digitální heterotopie, emocí a seskupovacích procesů. Je autorkou množství článků a kapitol, například Digitální síla v nucené migraci: Představené mezery a genderované praktiky, článek byl publikován v časopise Popular Communication. (dostupné na: https://www.researchgate.net/profile/Saskia_Witteborn)

Wei Wang je momentálně členem Mezinárodní asociace umělé inteligence a práva asijské sítě odborníků na ochranu osobních údajů a globální sítě společnosti Creative Commons Global Network. (dostupné na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf)

Li Hui je přidružený pracovník ve výzkumu na Šanghajském institutu pro vědu o vědě. Zaměřuje se na nová média a vědeckou komunikaci. Vědecké a technologické revoluce a průmyslové transformace, a na sociální vliv a řízení umělé inteligence (AI). (dostupné na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf) Je autorem více publikací, jako například Studie nové průmyslové technologie pro rok 2011 – inteligetní robot 1 jde o knižně zpracovanou výzkumnou zprávu o průmyslových mapách a inovaci, jako jsou např. průmysloví roboti (bližší informace dostupné na: http://eng.siss.sh.cn/expert/learnteam/553714.shtml)

Další předběžná zpráva, která vyšla v r. 2019 ve Švýcarsku od autorské trojice Jobin, A., Ienca, M., Vayena, E pod názvem Artificial Intelligence: the global landscape of ethics guidelines. Tato předběžná zpráva byla po dokončení publikována pod názvem „Globální prostředí etických pokynů AI“: (https://www.nature.com/articles/s42256-019-0088-2 ). a která silně nabádá k jednotné etické platformě na každé úrovni. Nejen soukromý sektor, či vládní sektory, ale i na úrovni Evropské unie reflektují tuto potřebu, a proto sílí snaha, jak uvádí zmíněná zpráva, aby se pověřené orgány zabývaly problémem etiky umělé inteligence na bázi jejího zjednocení a jednotného postupu při práci s umělou inteligencí závazného pro všechny sektory. Jde o skupinu odborníků na vysoké úrovni pro umělou inteligenci jmenovanou Evropskou komisí, skupinu expertů pro umělou inteligenci v rámci Organizace pro hospodářskou spolupráci a rozvoj (OECD), dále poradní radu pro etické využívání umělé inteligence a údajů v Singapuru, a vybraný výbor pro umělou inteligenci Sněmovny lordů Spojeného království (UK). V rámci svých institucionálních funkcí tyto výbory vypracovaly nebo údajně připravují zprávy a směrnice týkající se AI, jak se lze dočíst na stránkách dokumentu. Samotným cílem autorek a autorů bylo zodpovědět nastávající otázky. Z tohoto důvodu autorky a autoři provedli prověření rozsahu existujících směrnic o etické umělé inteligenci (AI). Cílem analýzy bylo zmapování globálního prostředí existujících zásad a směrnic pro etickou AI, a tím zároveň i zjištění, zda se vytváří globální konvergence, pokud jde o zásady etické AI. Jak nejvíce poukazují autorky a autoři, problémem etických směrnic se zabývají USA a Spojené království, za nimi hned následuje Japonsko, Německo, Francie a Finsko. Takže můžeme vidět, že jde o ekonomicky silnější státy. (https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf) V analyzovaných dokumentech se sice nenašla jednotná platforma, avšak lze říci, že hlavní pozornost přitahují tyto hodnoty: transparentnost, spravedlnost a férovost, neškodnost, zodpovědnost a soukromí. Autorky a autoři této práce nastolují zajímavou otázku zodpovědnosti. Jde o to, zda by umělá inteligence měla být zodpovědná vůči člověku jako člověk, nebo by tato odpovědnost měla být přenesena výlučně jen na lidi jako zodpovědné za technické artefakty. Pokud vezmeme v úvahu jistou míru vědomí u umělé inteligence, tato otázka se stává výrazně aktuální a potřebnou k sjednocení, ať už etickému, právnímu, politickému. (https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf). Jak si můžeme všimnout, o hodnotách soukromí, spravedlnosti a transparentnosti se zmiňují i autorky Carla Hustedt a Lajla Fetic.

V rámci této přehledové studie si přiblížíme autorky a autory studie, o níž jsem se zmínila výše (Artificial Intelligence: the global landscape of ethics guidelines).

Anna Jobin v současnosti pracuje v laboratoři zdraví pro etiku a politiku v ETH v Curychu, která je přidružená k laboratoři digitálních humanitních věd a kultur a laboratoři vědeckých a technologických studií na univerzitě v Lausanne. Její současné výzkumné projekty se nacházejí na pomezí vědy, techniky a společnosti se zvláštním zaměřením na etiku ve výzkumu a vědě občanů, interakci s algoritmickými systémy a etickou umělou inteligenci ( https://sociostrategy.com/about-anna-jobin/) Je autorkou množství příspěvků, kapitol. Například La mémoire kaléidoscopique: l'histoire au prisme des algorithmes nebo Les services numériques grand public et leurs utilisateurs: trois acquches sociotechniques contemporaines. A contrario. ( https://sociostrategy.com/about-anna-jobin/)

Marcello Ienca také pracuje v laboratoři zdraví pro etiku a politiku v ETH v Curychu, výzkumně se zabývá etikou a správou biomedicínských údajů, jakož i eticky sladěnou umělou inteligencí a odpovědnou inovací pro vznikající technologie, které jsou na rozhraní člověk-stroj. Autorsky spolupracuje také s Annou Jobin. Autor vydal samostatnou monografii pod názvem Intelligenza2: Per un'unione di intelligenza naturale e artificiale. a publikuje v odborných časopisech jako Neuron, Nature biotechnologie, American Journal of Bioethics. (https://bioethics.ethz.ch/the-group/people/person-detail.marcello-ienca.html)

Mark van Rijmenam je známým mezinárodním řečníkem na poli práce a pracovního trhu v budoucnosti. Zároveň je uznávaným členem profesionálních řečníků v Nizozemsku a také členem Global Speakers Federation. Je zakladatelem Datafloq.com, což je platforma pro obsah nových technologií. Je autorem více publikací. ( https://vanrijmenam.nl/) Nejnovější je jeho publikace Organizace zítřka – The organization of tomorrow (2020), v níž rozebírá otázky zavádění umělé inteligence do podnikání, zabývá se také tím, jak nové technologie ovlivní organizace, a mnoha dalšími otázkami, na něž se snaží odpovědět. .( https://vanrijmenam.nl/)

V rámci této přehledové studie bych se dále chtěla zabývat Japonskou společností pro umělou inteligenci (Japanese Society for Artificial Intelligence), která sdružuje odborníky z různých oblastí vědy a akademického prostředí Japonska, zároveň vydává svůj vlastní časopis Journal, kde lze nahlédnout do tematických okruhů a jmen autorů, kteří se zaměřují na různé oblasti výzkumu od bioetiky ( Ichigaku Takigava) po výzkumníky z informační oblasti, jako např. Katsumi Inoe. Je akademickou společností s předními výzkumnými pracovníky a inženýry. Hlavní činností Japonské společnosti pro umělou inteligenci je jednou ročně pořádat výroční konferenci (v roce 2020 to bude její 34.), kde se prezentují výzkumy a konají pozvané přednášky. (aktuální konference https://www.ai-gakkai.or.jp/en/) . Dále se jednou ročně konají sympozia, z nichž nejlepší přednášky jsou publikovány jako doprovodné přednášky. Další činností společnosti je vydávání časopisu, který jsem zmiňovala výše, a jehož úkolem je zprostředkovat informace o aktuálních tématech umělé inteligence. Časopis vychází 6x za rok. Také jsou nabízeny semináře na téma umělé inteligence a výměnné informace z výzkumů v této oblasti. Samotná společnost má deklarovaná etická pravidla, etickou komisí, která vznikla v r. 2014 a do nichž je možné nahlédnout v rámci internetové sítě (http://ai-elsi.org/archives/514)

Jako druhou společnost bych představila OpenAI, která je známější než Japonská společnost pro umělou inteligenci. OpenAI byla založena v roce 2015. Mezi její zakladatele patří Elon Musk, Ilya Sutskever, Sam Altman, Greg Brockman, Wojciech Zaremba a John Schulman. Sídlo má v USA. Elona Muska netřeba představovat, zajímavější jsou pro potřeby této studie Ilya Sutskever, který pracuje na poli matematiky a vědy o počítačích. Publikuje v oblasti neuronových sítí. (informace dostupné na: https://www.cs.toronto.edu/~ilya/pubs/). Pracuje také v oblasti hlubokého učení, kdy počítač rozpoznává vzorce v údajích samých o sobě, tedy snaží se pochopit naše vnímání světa. Tato technologie se uplatňuje při překladačích z cizích jazyků do mateřských jazyků. Na Slovensku se neuronovými sítěmi zabývá M. Čerňanský. (2009). Dalším z členů OpenAI je Wojciech Zaremba, který studoval na New Yor University a Varšavské univerzitě. Zabývá se podobně jako Ilya Sutskever hlubokým učením, matematikou a vědou o počítačích. (informace o autorovi dostupné na: https://scholar.google.com/citations?user=XCZpOcAAAAAJ&hl=en)

John Schulman je vědecký pracovník, pracuje v OpenAI, jejímž je i spoluzakladatelem. Zabývá se hlubokým učením, pracoval také v robotice. V dizertační práci (2016) se zabýval optimalizací očekávání. V současnosti vede tým, který se zabývá vývojem algoritmů souvisejících s posilovaným učením. (informace o publikacích dostupné na: http://joschu.net/publications.html)

Další organizací v oblasti umělé inteligence je skupina pro digitální práva The Electronic Frontier Foundation (EFF)(Nadace elektronických hranic). Jde o neziskovou organizaci, která obhajuje občanské svobody v digitálním světě. EFF vznikla v roce 1990 v USA. Tato organizace vnímá potřebu ochrany občana a jeho práv a svobod ve vztahu k využívání, respektive zneužívání počítačových technologií, umělé inteligence a jejích algoritmů proti občanům. Snaží se o ochranu práv na soukromí, online svobody projevu, případně ochranu před nezákonným dohledem. Jde o organizaci, která se snaží o globální síťové propojení, v rámci něhož si stanovila za cíl chránit lidské a občanské svobody a práva jejích uživatelů. (informace dostupné na: https://www.eff.org/about)

Závěr

Jak můžeme vidět na tomto přehledu, je to jen drobná částečka toho, co se v oblasti umělé inteligence vyvíjí, obhajuje, zneužívá, ale také pomáhá, usnadňuje život a zvyšuje naše pohodlí. Přirozeně je to i mocná zbraň, která dává možnosti k ovládání druhých a ukracování jejich svobod, proto je velmi důležité neoddělovat vědu, veřejnost, politiku jako jednotlivá pole, mezi nimiž je obrovská propast, ale propojit je a vést dialogy o spolupráci ve prospěch lidstva a nikoli proti němu. Čína a USA jsou v současnosti na bázi výzkumu na předních místech. Je možné, že jde nejen o výzkumný, ale zejména paradigmatický zápas. Jak jsme mohli vidět, ani ostatní silnější ekonomiky nechtějí zaostat. Otázkou stále zůstává, jak se v globálním světě tyto boje budou vyvíjet a do jaké míry budou vlády a vládní uskupení ochotny spojit své vidění světa s těmi ostatními. Jak je možné vidět, celosvětově je téma umělé inteligence vysoce aktuální jak na poli akademickém, soukromém, veřejném, či politickém. Nejen v současném období se začalo aktivně přemýšlet o problémech, které s sebou pokrok v oblasti umělé inteligence přináší, ale už několik let probíhá diskuse o pravidlech, podle kterých je třeba se řídit, abychom nebyli pohlceni vlastní genialitou. Je jasné, že pokrok není možné zastavit, stejně jako že umělá inteligence je naší budoucností. Je však nezbytné spolupracovat ve všech oblastech, aby se dospělo k jednotným etickým standardům, které by mohly být akceptovány všemi a přinášely by ne omezení, ale uvědomělý pokrok. Celá situace v oblasti výzkumu umělé inteligence vyžaduje, abychom se zabývali morálními možnostmi a limity odpovědného používání umělé inteligence. V této oblasti vyvstává hned několik otázek, které je třeba řešit. Jednou z nich je, zda můžeme umělou inteligenci používat výlučně k vlastním, lidským, cílům jako prostředek, vzhledem k tomu, že už nyní je dokázáno, že jistým druhem vědomí umělá inteligence disponuje. Dalším tématem, které se před námi vynořuje, je, zda vůbec máme morální právo vyvíjet takovou umělou inteligenci, která je chytřejší než samo lidstvo? Máme právo do umělé inteligence instalovat etické softwary, které by potlačovaly její samostatné rozhodování a rozvoj výlučně ve prospěch člověka? Zároveň budeme jako lidské bytosti v bezpečí před sofistikovanými hrozbami, které s sebou umělá inteligence přináší vzhledem k tomu, že ona nedisponuje emocemi a vlastně jen plní příkazy? Jsme my lidé vůbec morálně, zodpovědně připraveni na vstup takových inteligentních systémů do našich životů? Nakolik nás může ohrozit naše vlastní nezodpovědnost v případě neetického jednání lidí, kteří umělou inteligenci zneužijí k vlastním kriminálním, politickým, soukromým cílům? I toto jsou otázky, jimiž se celosvětová společnost zabývá. Jak je však možné vidět, zatím ke konsenzu nedošlo, což samozřejmě může vyplývat z lidské povahy obecně, ale také je tu problém kulturních, společenských paradigmat, jejichž nejednoznačnost práci na etických standardech komplikuje. Dalším z problémů, který v sobě výzkum a používání umělé inteligence skrývá, jsou její vysoké možnosti v nahrazení množství lidské práce. Vzhledem k nárůstu populace už nyní vznikají problémy se zaměstnaností několika generací, přičemž další úbytek pracovních míst ve prospěch umělé inteligence, i když dokonalejší, by mohl být příčinou vážných sociálních nepokojů. Přirozeně nemůžeme zavrhnout umělou inteligenci jako hrozbu, to by bylo příliš jednoduché a ne zcela morální řešení. Jak jsem již zmiňovala, pokrok lidstva neumíme zastavit, neumíme zastavit vývoj čím dál sofistikovanější umělé inteligence, avšak můžeme si stanovit jasné cíle našeho vývoje nejen v rámci jednotlivých společností, ale celosvětově jako lidstva. Můžeme kráčet ruku v ruce s umělou inteligencí, která nám bude partnerem, ne otrokem, od níž se můžeme i my učit, jak být lidmi a ji učit lidskosti. Možností máme vždy více, důležité je, které z nich budeme schopni využít. Budou jednoznačně platit zákony robotiky, jak je formuloval A. Asimov? Opravdu se robot nebo umělá inteligence, či algoritmus má řídit těmito zákony?

1. „Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
2. Robot musí poslouchat příkazy člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
3. Robot musí chránit sám sebe před zničením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem.“ (Asimov, 2004, s. 209)

Takže vložíme Kantův imperativ a robot/ umělá inteligence nebude cíl sám o sobě, ale pouze prostředek. Je to morální? Vložíme i utilitaristické pravidlo užitečnosti, musí vždy sloužit člověku. Co se stane, když člověk naprogramuje robota/ umělou inteligenci proti člověku. Jak si poradí umělá inteligence - vzepře se příkazu, nebo raději z hlediska užitečnosti zničí samu sebe? Má právo chránit robot/ umělá inteligence samu sebe, pokud musí být v platnosti první dva zákony robotiky? Budeme morálnější, když budeme používat umělou inteligenci pouze a výlučně ve prospěch lidstva? Inteligence, která nás převýší, zůstane pouze prostředkem pro rozvoj lidstva. Otázka, která se nabízí, bude ten rozvoj lidštější?

Autorka: PhDr. Jana Bartal, PhD. Katedra všeobecné a aplikované etiky FF UKF O autorke: Jana Bartal, sa narodila v r. 1975 v Prešove, kde vyštudovala na Fakulte prírodných a humanitných vied učiteľstvo, v odbore etická výchova – dejepis. Doktorandské štúdium absolvovala na Katedre etiky a katechetiky teraz Katedre všeobecnej a aplikovanej etiky Filozofickej fakulty UKF v Nitre. Dizertačnú prácu pod názvom Agresívne správanie žiakov základných škôl ako etický problém obhájila v r. 2008. Rigoróznu prácu a obhajobu absolvovala na Katedre všeobecnej a aplikovanej etiky v r. 2009, pod názvom Súčasná tvár etiky budhizmu. Je autorkou troch samostatných monografií. Na Katedre všeobecnej a aplikovanej etiky pracovala v r. 2007-2013, kde sa opäť vrátila v roku 2019. Autorka sa zaoberá hodnotami, umelou inteligenciou a jej špeciálnou profiláciou sú východné etické systémy.

Použitá literatura:

1. Asimov, A.: Rotohistorie I. Praha: Triton, 2004. ISBN80-7254-477-2
2. Bílá kniha o umělé inteligenci – evropský přístup k excelentnosti a důvěře. (únor 2020) dokument pdf. dostupný na: https://op.europa.eu/sk/publication-detail/-/publication/aace9398-594d-11ea-8b81-01aa75ed71a1/language-sk/format-PDF
3. Čapek, K. : R.U.R. Artur, 2004. 102 s. ISBN 80-86216-46-2
4. Daly A., Hagendorff T., Li Hui, Mann M., Vidushi Marda, Ben Wagner, Wei Wang and Saskia Witteborn: Artificial Intelligence Governance and Ethics: Global Perspectives dostupné na https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf
5. Daly, A. 2016 : Socio-Legal Aspects of the 3D Printing Revolution. Palgrave : Mcmillan, 2016. ISBN 978-1-137-51556-8
6. Daly, A.: Private Power, Online Information Flows and EU Law: Mind the Gap, Hart Publishing, 2016, 162 s. ISBN 978- 1-50990-063-3
7. Etické směrnice pro Japanese Society for Artifical Inteligence dostupné na: http://ai-elsi.org/archives/514
8. How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms #2 dostupný https://uni-tuebingen.de/en/facilities/central-institutions/international-center-for-ethics-in-the-sciences-and-humanities/team/dr-thilo-hagendorff/
9. Hui L., http://eng.siss.sh.cn/expert/learnteam/553714.shtml Preklad na: https://translate.googleusercontent.com/translate_c?depth=1&hl=sk&prev=search&rurl=translate.google.com&sl=en&sp=nmt4&u=http://eng.siss.sh.cn/publications/publications/555968.shtml&usg=ALkJrhhAZMOYU6HGnJTdSqIFMPPajmmSFw
10. Hustedt, C., Fetic L.: From principles to practice: How can we make AI ethics measurable? dostupné: https://ethicsofalgorithms.org/category/publications/ 2. APRÍL 2020
11. Ienca, M (2019).: Intelligenza2: Per un'unione di intelligenza naturale e artificiale. Rosenberg & Sellier, Tourin, Italy. Bližší informace o autorovi dostupné na: https://bioethics.ethz.ch/the-group/people/person-detail.marcello-ienca.html
12. Japanese Society for Artifical Inteligence dostupné na: https://www.ai-gakkai.or.jp/en/
13. Jobin, A., Ienca, M., Vayena, E.: Artificial Intelligence: the global landscape of ethics guidelines 2019, celý dokument dostupný na: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf,
14. Jobin, A., Ienca, M., Vayena, E.: The global landscape of AI ethics guidelines „Globální prostředí etických pokynů AI“: (https://www.nature.com/articles/s42256-019-0088-2 ) dostupné také v tištěné podobě: Jobin, A., M. Ienca, E. Vayena (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence (ISSN 2522-5839), 389-399, September 2, 2019. (preprint available at: https://arxiv.org/abs/1906.11668)
15. Jobin A.: https://sociostrategy.com/about-anna-jobin/
16. Jobin. A, Prezioso S.,Glassey O., Kaplan F.: (2019) La mémoire kaléidoscopique: l'histoire au prisme des algoritmes d'autocomplétion Geschichte und Informatik - Histoire et Informatique. Zürich, Švýcarsko ISSN 1420-5955
17. Jobin A., Bilat, L. (2016): Les services numériques grand public et leurs utilisateurs: trois acquches sociotechniques contemporaines . A contrario . Lausanne: BNS Press. 22 (1)
18. Kolektiv autorů: Umělá inteligence a kognitivní věda I. Bratislava: STU, 2009 dostupné v pdf. na: http://www2.fiit.stuba.sk/~kvasnicka/Free%20books/Umela_inteligencia_a_kognitivna_veda_I.pdf
19. Lockwood, G., & Marda, V. Harassment in the Workplace : The Legal Context, “JURISPRUDENCE”, The International Association of Law and Politics, September 2014. ISSN 1392-6195. (informace o autorke a jej publikačnej činnosti dostupné na: http://vidushimarda.com/writing/
20. Mann M.: Politicising and Policing Organised Crime. Routledge, 2019. 174 s. ISBN 978-1-138-067-33-2 Informácie o publikácii dostupné na: https://www.routledge.com/Politicising-and-Policing-Organised-Crime-1st-Edition/Mann/p/book/9781138067332
21. Marda, V. Artificial Intelligence Policy in India: A framework for engaging the limits of data-driven decision making, Philosophical Transactions A: Mathematical, Physical and Engineering Sciences, October 2018, DOI 10.1098/rsta.2018.0087 dostupné na: http://vidushimarda.com/writing/
22. Rijmenam van M.: The organisation of Tomorrow. London & New York: Routletge Tylor & Francis Group, 2020. ISBN: 978-0-367-23471-3,
23. Rijmenam van M.: informácie dostupné na: https://vanrijmenam.nl/
24. Smith,M., Mann, M.,Urbas, G.: Biometrics, Crime and Security . Routledge, 2018. 134s. ISBN 978-1138742802, eBook ISBN: 9781315182056
25. Schulman, J.: informácie o autorovi a jeho publikáciách dostupné na: http://joschu.net/ a http://joschu.net/publications.html
26. Sutskever I.: profilové informácie dostupné na: https://www.cs.toronto.edu/~ilya/pubs/
27. The Electronic Frontier Foundation informácie dostupné na: https://www.eff.org/about
28. Vieth, K., Wagner, B.: How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms #2 dostupné na: https://ethicsofalgorithms.org/2017/06/02/calculating-participation-how-algorithmic)
29. Witteborn, S. : The digital force in forced migration: Imagined affordances and gendered practices. in Popular Communication 16(1):21-31 · January 2018 ISSN1540-5702 dostupné na: https://www.researchgate.net/profile/Saskia_Witteborn