Etika v použití digitálních technologií: nové výzvy a principy

Úvod: od nástroje k prostředí bydlení

Digitální technologie už nejsou neutrálními nástroji, ale staly se prostředím, které formuje chování, vědomí a sociální vztahy. To vyžaduje přechod od úzké „profesionální etiky“ IT odborníků k komplexní digitální etice — systému morálních principů, regulujících vývoj, zavádění a použití technologií. Klíčový paradox současnosti spočívá v tom, že technologický rozvoj předbíhá etickou reflexi, vytvářejíce „normativní vakuum“ kolem jevů jako algoritmické rozhodování, generativní AI a neurointerfejsy.

Základní etické problémy digitální éry

1. Zodpovědnost algoritmů a diskriminace dat

Artificial intelligence a algoritmy čím dál častěji přijímají rozhodnutí ovlivňující život lidí: od schválení úvěrů a výběru uchazečů o práci po určování délky trestu odnětí svobody. Nicméně algoritmy nejsou objektivní — odrážejí předpojatosti zakódované v trénovacích datech. Jasným příkladem je systém COMPAS používaný ve Spojených státech k hodnocení rizika recidivy u pachatelů. Výzkum ProPublica z roku 2016 ukázal, že algoritmus systémově přehnaně hodnotil riziko pro afroameričany a podhodnotil pro bělochy, reprodukujíc historické sociální nerovnosti.

Zajímavý fakt: V roce 2018 byla Amazon nucena odmítnout algoritmus pro výběr zaměstnanců, který diskriminoval ženy. Systém se učil na životopisy zaměstnanců společnosti za 10 let, kde většinu tvořili muži, a naučil se „trestat“ slova charakteristická pro ženské životopisy (např. „kapitán ženské šachové týmu“).

2. Digitální nerovnost a dostupnost

Etika digitálních technologií musí zohledňovat digitální propast — nerovnost v přístupu k technologiím a digitálním dovednostem. Pandemie COVID-19 odhalila tuto problematiku: zatímco někteří mohli pracovat a učit se na dálku, jiní byli vyloučeni z socioekonomického života. Kromě technického přístupu vzniká problém funkční neznalosti — neschopnosti kriticky hodnotit informace, chránit soukromí a rozumět logice algoritmů.

3. Manipulace pozorností a dofamínový design

Sociální sítě a platformy jsou vědomě konstruovány pro maximální udržení pozornosti, využívajíc znalosti neurověd. Neustálá zpravodajská škála, upozornění, algoritmy ukazující obsah vyvolávající silné emoce – vše to vytváří ekonomiku pozornosti, kde uživatel je produktem. Etika vyžaduje transparentnost v těchto praktikách a poskytování uživatelům skutečného výběru, ne iluze kontroly.

Příklad: V roce 2021 se Facebook (Meta) ocitl v centru skandálu po odhaleních Frances Haugen. Formerší zaměstnankyně ukázala, že společnost vědomě využívala algoritmy posilující zuřivost a polarizaci, protože takový obsah zvyšuje angažovanost, navzdory škodám na veřejném dialogu a duševnímu zdraví mladistvých.

4. Autonomie člověka vs. automatizace

Automatická výroba a systémy doporučení postupně omezují lidskou autonomii, zužují pole výběru. Algoritmy YouTube nebo TikTok určují, jakou informaci uvidíme; navigátory – jaký bude zvolený trasu; systémy chytrého domu – jaký bude klima v bytě. Etická úloha je zachovat člověku právo na nesouhlas s algoritmem a možnost nekonvenčního výběru.

Principy digitální etiky

Na tyto výzvy reagují nové etické principy:

Princip transparentnosti (srozumitelnosti). Algoritmické systémy by měly být srozumitelné pro uživatele. V EU již platí „Právo na vysvětlení“ v rámci GDPR, které umožňuje požadovat vysvětlení rozhodnutí přijatých automaticky. Pro složité neuronové sítě to zůstává technickým problémem, což vyvolalo samostatné směrodatní směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směrodatné směro
© elibrary.cz

Permanent link to this publication: