Визитка
Линда Мари Бел е съдия във Върховния съд на Невада от 2 януари 2023 г. и е признат национален лидер в областта на съдебните технологии и етичните въпроси, свързани с въвеждането на нови инструменти в съдилищата. Съдия Бел е изградила кариерата си на пресечната точка на иновациите, достъпа до правосъдие и отговорното управление. През четиринадесетте си години като съдия в първоинстанционния съд, от които четири години като главен съдия в най-големия съд в Невада, тя използва технологиите, за да помогне на съдилищата да управляват голям обем дела с ограничени ресурси, като същевременно подобряват обслужването на страните.
Във Върховния съд на Невада съдия Бел председателства комисията по информационни технологии на съда и продължава да насърчава отговорните иновации в целия щат.
Съдия Бел беше в България по покана на Българския институт за правни инициативи (БИПИ) и изнесе лекции за етичното използване на изкуствен интелект в съдилищата.
Темата за използването на изкуствения интелект в правосъдието има два аспекта - ползите, от една страна, и предизвикателствата и рисковете - от друга. Да започнем с ползите все пак.
Напълно съм съгласна, че е добре за започнем оптимистично. На първо място, неизбежно изкуственият интелект (AI) настъпва в работата ни, независимо дали искаме или не. Безспорно, той е особено полезен за съдиите, които са много заети, а също така - и страните в производството, които сами се представляват пред правосъдието. По този начин съдът помага на страните, без обаче да им дава юридически съвети.
Разбрах, че така е и във вашия административен съд, където обикновено жалбоподателите се представляват сами, но трябва да се има предвид, че другата страна, пред която те се изправят, винаги е администрацията, а тя има добри юристи на разположение.
Давам ви пример с първоинстанционния съд в Лас Вегас, където съм работила. Той има в компютъра система за самонасочване при изготвяне на различни документи. Участникът в производството задава въпроси, получава отговори и на базата на тези отговори той може да си формулира жалбата или конкретно искане до съда. А пак съдът от друга страна получава много по-ясни и добре изготвени документи.
Действително страните имат право да ползват адвокат, но реално в САЩ често това не се случва, особено по семейни спорове. В повечето случаи хората не са в състояние финансово да си позволят адвокат. От друга страна, по граждански спорове често става въпрос за неголяма сума пари и в тези случаи просто не си струва да се влагат средства за адвокат.
Като се имат предвид икономическите неравенства в обществото, използването на изкуственият интелект е голямо предимство, но е и малко плашещо в също време.
Една друга област, в която в съда в Невада използваме изкуственият интелект, е така нареченото онлайн решаване на спорове. В миналото например, при спор за родителски права при развод беше задължително провеждането на медиация, и то присъствено и за двете страни. Но след въвеждането на онлайн системата тези спорове се решават неприсъствено.
Да видим дали съм разбрала. Става въпрос за задължителна медиация по семейни дела - за родителски права, личен контакт с децата и т.н. , която се извършва изцяло онлайн, а не на видеоконферентни срещи.
Да, това е задължителна медиация, но страните имат опция да я провеждат чрез онлайн кореспонденция. Едната страна задава въпроси на другата, да речем кога й е удобно да се взимат децата, в кои дни и в кои часове на всеки месец, получава отговор и т.н. Накрая компютърът обработва цялата тази информация и се стига до приемлив вариант и за двете страни. И щом те стигнат до съгласие компютърът ще създаде план на родителство, който може да бъде представен на съда, така че страните въобще да не се налага да се срещат, а да говорят само през компютъра.
Ако пък страните не се споразумеят по време на този онлайн разговор, то тогава вече се пристъпва към медиация на живо с медиатора. Но пък в този случай компютърът, на база на техния разговор, ще е идентифицирал два или три основни спорни въпроса, ще е обработил противоречията, което ще е от голяма полза за срещата на живо с медиатора, защото те отиват подготвени и дискусията ще може да се съсредоточи върху това.
И такъв един спор за родителски права и лични контакти може да се реши изцяло с разговор онлайн?
Да, само онлайн, без да се налага страните да се срещат, като могат да водят този разговор, когато на тях им е удобно. Не се налага хората да пътуват за тези срещи, не се налага да отсъстват от работа, те може да са си в къщи, на работното място и т.н.
Има много предимства в това. За съжаление ние имаме доста случаи на домашно насилие и не е желателно две такива страни да бъдат събрани на едно място.
Друго предимство е, че се съкращава продължителността на медиацията, която трябва да се осъществи, преди да се стигне до съдебна зала, за да се произнесе съдията. Освен това, така се пести ресурс за самите медиатори.
Дотук говорим за това как AI може да е в услуга на страните. А как съдиите го използват в работата си?
Използва се най-вече за извършване на различни процесуални действия, като това повишава ефективността на работата на служителите като цяло в съда. Действително, всеки съдия си има помощници, но те никога не са достатъчни. А съдията трябва да провери дали всички документи са налице, дали са коректни, дали всичко е изчерпателно, трябва да насрочи разглеждането на делото и т.н. Все неща, за които изкуственият интелект помага много.
Разбира се, особено съществено е, че сега можем да използваме АI за помощ при изследването на информацията.
Още когато аз бях студентка по право, съществуваше възможност, като пуснеш ключови думи в компютъра, той да ти изкара делата, които имат отношение към конкретния казус, прецедента. Има обаче съществена разлика между търсачката на компютъра и генеративния изкуствен интелект. Компютърът само търси, без да мисли, той поднася сухата материя. Докато AI мисли - освен че събира данни и информация от различни източници, той след това прави и някакви заключения. Това, безспорно, ни помага да разширяваме търсенето.
В това отношение дали имате някакъв поглед върху разликата при използване на изкуствения интелект в прецедентното право и в континенталното, защото става въпрос за различен предмет на изследване.
Интересно е, че поставяте този въпрос, имахме дълга дискусия за това по време на беседата ни със съдиите във Велико Търново, където бях лектор на семинар, организиран от ССБ, точно по темата за изкуствения интелект в правосъдието.
Това е един от проблемите, който буди тревога, особено в гражданското право. Защото AI може постепенно да подтиква съдиите в гражданското производство да се приближават все повече към правото на прецедента. Обяснението е просто, AI разчита на това, което събира като информация по отделни дела и рискът е постепенно да подтиква съдиите да използват прецедента и въз основа на него да си решават делата.
В моята работа аз използвам AI, за да правя юридически проучвания, особено когато се затруднявам да получа необходимата информация като използвам обичайните търсачки в интернет. Възможностите за приложение са много.
И тук обаче стигаме до страшните неща.
Кои са те?
АI може да се използва за изготвяне на проект на документи, като например заповедите, които съдията издава в хода на едно производство от начало до края му. И когато става въпрос за един първоначален вариант на заповедта е приемливо да се използва изкуствен интелект и може да бъде много полезно, но всичко трябва внимателно да бъде проверено, преди да се изготви втори или трети, окончателен вариант. Проблемът е, когато никой не го проверява.
В Америка имаме този проблем с адвокатите. Някои от тях не използват одобрена от съда система за изготвяне на документи, за които ви говорих, а вместо това използват ChatGPT, и резултатът, който се получава, не е добър - има неверни позовавания, невярно цитиране на юридическия прецедент.
Но както разбирам от разговорите си с вашите съдии, това е проблем и тук, в България също има неправилно позоваване на определени съдебни решения.
Един от специфичните проблеми на изкуственият интелект е, че той иска да ти угоди и прави всичко възможно, за да отговори на целите, които ти като потребител си поставил, но не винаги е акуратен в отговора си. Затова съдиите трябва да проверяват. Най-тревожното е, когато съдията остави компютъра да изготви съдебното му решение. Изключително важно е съдията да е уверен, че сам стига до решението, което ще постанови. Много е рисковано да се довери на компютъра повече отколкото на самия себе си. Изкуственият интелект никога не може да бъде толкова добър за работата на съдията, както е самият съдия, защото работата в съда е изключително сложна. Съдията трябва да изясни фактите, да приложи правото, а всеки случай е различен и се преценява конкретно, това не е математика. Така че съдията трябва да е отговорен и да не позволява на компютъра да взема решенията вместо него.
Друго нещо, което бе споменато от моите колеги тук, свързано с първоинстанционния съд, е, че съдии от първата инстанция се изкушават да използват АI, за да прогнозират какво решение би взела въззивната инстанция по даден казус. Това също е много плашещо за мен - да се използват АI от съдията, за да се ориентира какво ще е най-приемливо за въззивната инстанция, вместо да направи собствената си преценка кое е правилно за съответния случай и да вземе решение. Не е редно такава прогнози какво е приемливото за даден случай да се прави с AI, понякога той може да даде правилен отговор, но не винаги.
Кой носи отговорността, ако изкуственият интелект по един или друг начин ви подведе, било поради неправилно зададен въпрос или с неправилно предоставена информация - както сама подсказахте, че е възможно.
Халюцинациите са голям проблем в ChatGPT, в нашата правна система това води до измисляне на дела, които въобще не са съществували.
Проблемът с ChatGPT е, че той не е създаден конкретно, за да обслужва правораздаването. В нашия съд поне веднъж месечно имаме случай и трябва да сезираме за откриване на дисциплинарно производство по отношение на адвокат, защото е използвал ChatGPT, който е халюцинирал. Подобна опасност съществува и за съдиите. Проблемът при ChatGPT е, че той събира много информация, за да отговори на въпроса ви и дори, ако трябва, ще си измисли някакво съдебно дело, за да ви удовлетвори.
А това е много проблематично за нас, тъй като ние съдиите решаваме на основа на определени доказателства. И това подчертава колко е важно винаги да се проверява информацията.
Наскоро четох за специфичен проблем, който се обсъжда в САЩ във връзка с приложението на изкуствения интелект в областта на правото, а именно доколко е защитен разговорът с АI, включително и адвокатската тайна и кореспонденцията с адвокат.
Мисля, че това е огромен проблем за адвоката и огромен проблем за съдията. Ние работим с много поверителна информация, а ако оставите такава информация в открита система, каквато е например ChatGPT, това просто отива в облака и оттам нататък не е ясно за кого е достъпно. Аз например никога не вкарвам в ChatGPT никакви поверителни данни, не правя нищо там, освен например да изготвям презентации, да свалям картинки, да подготвям вечерно парти и т.н.
Но в работата трябва да сме изключително внимателни. Ние имаме една система, тя е национална правна система Westlaw, която съдържа като компонент изкуствен интелект, но това е затворена система. Въпросът, който винаги стои, е дали в крайна сметка имаш абсолютната сигурност, че това, което си задал, въпреки че е в националната система, няма да се използва от някого неправомерно. Така че ние, професионалистите в областта на правото, трябва да сме особено внимателни за чувствителната, поверителна информация да се полагат усилия тя да не се подава в отворен изкуствен интелект.
Виждате ли някакъв специфичен проблем при нас, какъвто няма в САЩ?
Един много интересен въпрос за България е как ще се управлява въвеждането на АI в съдебната система. Как съдиите ще се справят с актовете на ЕС и стриктните ограничения за използването на АI за решаването на казуси. Има директива на ЕС за използването на АI и в нея са разписани много ясни и стриктни ограничения за използването му в съдебната система, за управлението на делата, за целите на медиацията и т.н. Това е много добро по мое мнение. В Америка нямаме на федерално ниво такива правила и насоки. Отделни съдилища си имат свои правила и политики. Ама като знаем колко бързо се развива изкуственият интелект, тия политики много бързо остаряват.
В рамките на научната фантастика е този въпрос, но предвиждате ли АI някога да може да замести съдията в неговата работа?
Когато ни превземат роботите!
Извън шегата - трудно е да се прогнозира как ще изглежда следващото поколение генеративен изкуствен интелект и дори кога ще се появи. Засега AI се обучава от информацията, която им се подава от хората, но ще дойде момент, когато ще започне да се самообучава .Има области на правото, където е доста просто и ясно и може да се използва изкуствен интелект, например при евикция на наемател, който не си плаща наема. Но не мога да понеса мисълта да се загуби човешкия елемент в тази дейност.
