Изкуственият интелект - може ли да бъде заплаха за юристите?
Ако още днес не се опитаме да очертаем граници, в които да използваме технологиите, то поетапно може да станем ненужни
 
02 май 2019, 10:35 | д-р Мариана Тодорова | Видяна: 1572
 

Мариана Тодорова, доктор по футурология, главен асистент в Института за обществата и знанието към БАН.

 

Наскоро "Форбс" публикува статия със заглавието: "Ще извади ли изкуственият интелект адвокатите от бизнеса им?". В нея обаче се разглежда повече техническият аспект на въпроса. Но по-значимите въпроси, които аз биха искала да засегна, изобщо не са коментират.

На базата на днешните възможности на тесния изкуствен интелект* се очертава нарастващият брой на нишите, които той постепенно ще заеме в юридическата работа. По целия свят проблемите в правосъдието са подобни, макар и в различен мащаб – затлачени от дела съдилища, пренатоварени съдии или обществени защитници, неизпълнени присъди и пр.

В тези случаи изкуственият интелект наистина може да помогне. В САЩ вече се използва изкуствен интелект за правен дю дилиджънс/надлежна проверка, провеждане на изследвания и обработката на получените от тях данни, остойностяване на часовете работата и пр.

В бъдеще вероятно ще се възприема като лоша правна практика липсата на употреба на софтуер с изкуствен интелект. Аргументът е, че можем да направим аналогия между юрист, който в края на 20 век би ползвал само лист и химикалка и такъв, който разполага с компютър. В новата ситуация вече ще става въпрос за асиметрия в силите, подобно на това, което ще се случва в бъдещето на войните.

В чисто военен аспект се очаква бъдещите бойни действия да се водят от форми на изкуствен интелект. Умни дронове, самолети, подводници и роботи – убийци ще са новите оръжия. Заради скоростта на обработка на информацията в контролните и командни пунктове от изкуствения интелект много скоро след това ще се наложи неговото използване и за взимане на решение. Симетричност в бързината на обработка на постъпващите данни ще има спрямо два изкуствени интелекта, тъй като човешкият мозък не притежава такъв капацитет. Подобни процеси ще се наблюдават и в правната система - съобразно нужното време и ефективността на анализа на огромни правни масиви и съответно на решаването на казуси, особено в прецедентното право. Същото се отнася и за подпомагането на замяната на субективността на анализа на съдебните заседатели с този на един безпристрастен и непредубеден алгоритъм.  Разбира се, вече има доказателства, че конструираният на принципа на машинното обучение изкуствен интелект показва както идеологически, така и расистки предразсъдъци, (използвайки системата за разпознаване на лице за търсене на престъпници, той двойно по-често предполага, че те са чернокожи) но това е обект за дискусия от друго естество.

Въпрос на кратък хоризонт е изкуственият интелект, имплементиран в правото, да се превърне в конкурентно предимство. Неслучайно Естония обмисля да внедри първия съдия с изкуствен интелект (който ще "отсъжда" само за дребни искания под 7 хил. евро) и това не е изненадващо, защото в Хонг Конг от около 2 години съществува борд на директорите с изкуствен интелект на компания за рискови инвестиции. И в двата случая се касае до взимане на решения чрез отсъждане на базата на наличната информация.

Подобно на системата за социален кредит, която Китай предвижда да въведе (да следи чрез камери хората и съответно да ги награждава или наказва спрямо поведението им) се работи и по проекти, чрез които алгоритми да наблюдават езика на тялото, мимики на лицето, кръвно налягане и пулс като индикатори за участниците в съдебните процеси, които в пъти ще са по-благонадеждни от детектора на лъжата. Всичките изброени дотук приложения са само опции, чрез които може да се подобри, но и дехуманизира правораздавателният процес.

Истинското и голямо предизвикателство обаче ще бъде дали всички експерти, ангажирани в сферата на правото, ще могат адекватно и своевременно да запълват всичките огромни правни празнини, които ще се отварят в следствие на експоненциалното развитие на технологиите. Ако не успеят, те от само себе си ще станат ненужни. Предизвикателствата ще бъдат навсякъде – политика, икономика, социални системи, медицина, генно инженерство, войни и пр., а решенията не могат да бъдат основани само на досегашния човешки опит.

Сложните и заплетени казуси вече са тук. Нека вземем за пример автономните коли. Те субект или собственост са? Кой би бил виновен при инцидент с такъв автомобил – собственикът й, производителят, софтуерният инженер или самият алгоритъм – изкуствен интелект? В едно малко по-далечно бъдеще самият той (изкуственият интелект), базиран в превозно средство, комуникирайки си чрез системата на Интернет на нещата с всичко и всички, може да реши при неизбежен инцидент да рискува живота не на възрастен човек, защото коефициентът му на интелигентност го доближава до гениалността, а на дете, тъй като в проследения му геном се откриват предразположения към тежки заболявания. Това би било изцяло рационален избор, който ни подсказва чрез себе си какви биха били бъдещите етично-правни постановки. Можем да продължим с въпросите: как правото ще регулира доембрионалната селекция, подобряването на гените и опцията за "дизайн бебета"? Ще може ли да се тълкува по нов начин концепцията за родителство, ако хипотетично ще е възможно да се роди дете с гените на трима, четирима и повече родители? А порасналото дете ще може ли да държи съдебно-отговорни родителите си за избора, който те са направили преди то да се роди, ако не съвпада с вкуса и нагласите му? Тези казуси могат ли изобщо да са обект само на национално законодателство или по-скоро това ще породи необходимостта от създаването на една глобална правна система? Ще оцелее ли изобщо прецедентното право, защото ежедневно ще има хиляди нововъзникнали прецеденти, които може би ще могат единствено да се регулират принципно, чрез закони?

Как данните от разчитането на генома, което вече е факт, ще бъдат ползвани така, че това да не доведе до социална, трудова и здравна дискриминация? В момента тече ускорен процес по учредяване на банки за такава информация и събирането й, тъй като тя е необходима за развитието на изкуствения интелект чрез машинно и дълбоко обучение. Но тя ще е и безценен източник за работодатели и всякакъв тип здравни и социални осигурителни фондове.

Кой ще отговаря за неправилно, от гледна точка на морала, но свръхрационално, решение на изкуствения интелект?

Дотук дискутирахме само проявлението на тесния изкуствен интелект като "Кортана", "Сири и Алекса". Дори не загатнахме темата за общия или супер изкуствен интелект, който съответно ще e равностоен на нас или превъзхождащ ни.

Ако още днес не се опитаме да очертаем граници, (не регулации) в които да използваме технологиите, то поетапно може да станем ненужни, преди да сме открили нов смисъл и заместители на базисни институти, като "образование", "професия", "семейство", "държава" и др. Неслучайно, израелският изследовател Ювал Харари предсказва възникването на феномена "даннизъм" (datism), който обуславя сливането на цялото многообразие от политика, икономика, религии, социални системи в едно заради ефективността и "лесните решения".

*Нарича се така, защото е създаден да адресира ограничени, единични задачи. Голяма част от сега функциониращите системи на изкуствен интелект са именно тесен изкуствен интелект, който изпълнява ясно дефинирана задача/и.

Мариана Тодорова е доктор по футурология и главен асистент в Института за обществата и знанието към БАН. Била е народен представител в 43-то НС. Има специализации в Харвард Кенеди Скуул, Държавния департамент на САЩ и Китайската академия за управление. Представител на глобалния тинк-танк: "Милениум проджект" в България. Участва в множество конференции по футуристика. През юни предстои да излезе първата й книга в САЩ съвместно с американския футуролог Теодор Гордън.