Разкриване на престъпления с изкуствен интелект на Palantir от полицията в Германия

Заплаха за основните права и дигиталния суверенитет на Германия?

На 30 юли 2025 г. от медийни съобщения в Германия стана известно, че федералният министър на вътрешните работи Александър Добриндт (ХСС) проучва въвеждането и използването от полицията в различни провинции на софтуера „Gotham“ за разкриване на престъпления на американската компания Palantir¹. Софтуерът „Gotham“ се използва от полицията и разузнавателните служби за свързване и анализ на големи количества данни от различни източници. Това позволява например разпознаването на лица и разкриването на връзки между хора и събития. Той е предназначен за подпомагане на разследвания и предотвратяване на престъпления.

Полицията в някои провинции на Германия използва софтуера на Palantir още от 2017 г. Според привържениците му той е необходим дигитален инструмент в борбата срещу организираната престъпност и тероризма. Първата федерална провинция, която въвежда софтуера на Palantir, е Хесен през 2017 г. Северен Рейн-Вестфалия следва примера ѝ през 2020 г. През 2022 г. Бавария подписа рамково споразумение с компанията. Останалите федерални провинции и федералното правителство могат да се присъединят по всяко време, без нова процедура за обществена поръчка. От 2024 г. Бавария също използва софтуера на Palantir на практика под името „VeRA“². Съкращението означава „Платформа за междупроцедурно изследване и анализ“. Хесенската полиция го използва под името „HessenData“. Всъщност софтуерът на американската компания сякаш е засенчил всички други известни досега подобни платформи за анализ на данни.

След медийните публикациите за използването на софтуера на Palantir, се появиха критично мнения, че е налицезаплаха за свободата и демокрацията – поради опасения, че компанията може да получи неограничен достъп до различни данни. Palantir веднага отхвърли обвиненията. Прехвърлянето или изтичането на данни – например към САЩ – е технически невъзможно, заяви говорител на компанията пред ДПА. В Бавария, Северен Рейн-Вестфалия и Хесен, където полицията използва програми на Palantir, софтуерът се използва „изключително“ на сървърите на полицията.

Настоящата статия представя публикувания в Legal Tribune Online на 14 август 2025 г. анализа на Симон Дитхелм Майер³, озаглавен „Откриване на престъпници с изкуствен интелект: Palantir като ultima ratio?“⁴ в който се обръща внимание на това, че използването на изкуствен интелект от САЩ при разследванията ще има успех, но наред с товапредставлява заплаха за основните права и застрашава дигиталния суверенитет на Германия.

Проследяването на потенциални престъпници в рамките на секунди може да бъде извършено с помощта на изкуствен интелект чрез търсене и свързване на огромни количества данни от съдържание в социалните медии, изображения, сканирания от клетъчни кули, отчети и данни за дела. Този обещаващ подход за органите по сигурността се предоставя от доставчици като американската компания Palantir Technologies. Като инструмент за разследване, изкуственият интелект еедновременно високоефективен и високорисков. Колкото по-ефективен е, толкова по-големи са опасностите и за злоупотреба.

Използването на софтуера с изкуствен интелект „Gotham“ на американската компания Palantir в момента се обсъжда на федерално и провинциално ниво в Германия. Той се счита за водещия в света инструмент с изкуствен интелект за автоматизиран анализ на данни. Той е разработен от Palantir в тясно сътрудничество с ЦРУ и други американски агенции. Основният акционер и съосновател на Palantir, американският милиардер Питър Тийл, е поддръжник на президента на САЩ Доналд Тръмп.

Palantir вече е в действие

Провинциите Хесен, Бавария и Северен Рейн-Вестфалия вече използват софтуера Palantir; внедряването е планирано в Баден-Вюртемберг. Други провинции, като Берлин, Бранденбург, Хамбург и Шлезвиг-Холщайн, досега умишлено се въздържат от използването му. Докато критиците посочват рискове за върховенството на закона, поддръжниците подчертават ефективността на системата.

Новото германско правителство също така иска да даде възможност на службите за сигурност да използват изкуствен интелект. Според коалиционното споразумение трябва да се вземат предвид „конституционните изисквания“ и „суверенитетът“. Коалицията все още не е взела окончателно решение коя система с изкуствен интелект трябва да използват федералните служби. Федералният министър на вътрешните работи Александър Добриндт в момента проучва националното използване на софтуера Palantir, докато федералният министър на правосъдието Стефани Хубиг изрази скептицизъм.

Информационното самоопределение на невинни хора също е изложено на риск

В Решението си от 16 февруари 2023 г. Федералният конституционен съд на Германия⁵ за първи път установява специфични конституционни изисквания за използването на изкуствен интелект от полицията. Съответно, използването на системи с изкуствен интелект за автоматизиран анализ на даннинарушава основното право на информационно самоопределение (чл. 2, ал. 1) във връзка с чл. 1, ал. 1 от Основния закон на всички, чиито данни се използват в този процес. Поради значителния обхват на събираните данни, които засягат и невинни лица, създаването на личностни профили, непрозрачността на софтуерния подход („ефект на черната кутия“) и рисковете от изкривяване и дискриминация, въздействието на анализа на данни, подкрепен от изкуствен интелект,надвишава това на конвенционалния анализ на данни.Следователно използването му е предмет на специфични конституционни изисквания. Ако автоматизираният анализ на данни позволява сериозна намеса в информационното самоопределение на засегнатите, той е оправдан само за защита на особено важни правни интереси срещу определени специфични заплахи.

Спазва ли се дигиталният суверенитет на държавата

Дискусия около софтуера на Palantir се фокусира по-малко върху общите опасности от използването на изкуствен интелект, отколкото върху факта, че германските органи за сигурностизползват софтуер от частна компания, базирана в страна извън ЕС. Това повдига въпроса дали използването на софтуера на Palantir е съвместимо с изискванията за дигитален суверенитет.„Дигитален суверенитет“ означава суверенитетът на държавата върху информационните технологични системи, които тя използва. Наред с това „Дигиталният суверенитет“ отдавна е признат за една от основните политическа цел.

Някои експертите в областта изкуствен интелект и дигиталната сигурност на личните данните като проф. д-р Александър Роснагел, Улрих Келбер, Вячеслав Бортников и др., посочват, че изискването за дигитален суверенитет намира своятаконституционна основа в принципа на върховенството на закона съгласно чл. 20, ал. 3 от Основния закон на Германия и в основното право на информационно самоопределение съгласно чл. 2, ал. 1 във връзка с чл. 1, ал. 1 от Основния закон. Принципът на върховенството на закона задължава държавата да предостави правдоподобни причини за намесата в основните права.Ако държавата внедри система с изкуствен интелект, разработена от трета страна, това прави контрола върху системата с изкуствен интелект по-труден. В резултат на това държавата не може да изключи манипулация или злоупотреба от неупълномощени лица. Федералният конституционен съд заявява: „Ако се използва софтуер от частни субекти или други държави, съществува […] риск от незабелязана манипулация или незабелязан достъп до данни от трети страни.“

От съдебната практика на Федералния конституционен съд досега не е ясно дали по-строги конституционни изисквания се прилагат за използването на системи с изкуствен интелект от държави извън ЕС. Поради повишените рискове за основните права е убедително използването на системи с изкуствен интелект, разработени от трети страни, да се разглежда като изключение, изискващо обосновка. Колкото по-релевантна е системата за основните права, толкова по-трудно е да се обоснове използването ѝ. За системи с изкуствен интелект, които са от значение за основните права, приоритет трябва да се даде на вътрешните разработки на такива продукти: Вътрешните разработки и компонентите трябва да се предпочитат пред продукти от частни доставчици от чужди държави.Европейските системи с изкуствен интелект имат приоритет пред системите с изкуствен интелект от държави извън ЕС, където се прилагат по-ниски стандарти за защита на данните. Това важи поне ако вътрешната разработка е еднакво подходяща. На практика това често липсва. Ако обаче в бъдеще се появи подходящ европейски софтуер, то той би бил за предпочитане пред софтуера на Palantir. Следователно принципът на дигиталния суверенитет съдържа и конституционен мандат за германските органи по сигурността да насърчават вътрешни разработки, за да се създадат алтернативи на софтуера на Palantir, които да зачитат основните права.

Само по себе си ефективността не е аргумент

Самият факт, че софтуерът на Palantir е по-ефективен от съществуващия в Европа подобен софтуер, не може да оправдае използването му. Освен това,използването на софтуера на Palantir трябва да бъде пропорционално в тесен смисъл. Практиката на Федералния конституционен съд на Германия признава, чеза използването на софтуер, с изкуствен интелект за автоматизиран анализ на данни се прилагат строги изисквания за пропорционалност. Използването на софтуер е непропорционално, ако тежестта на намесата в основното право на информационно самоопределение надвишава потенциалната полза за органите за сигурност. Тъй като използването на софтуер с изкуствен интелект от страни извън ЕС е свързано с повишени рискове за основните права, то трябва да бъдепредмет на особено строги изисквания за пропорционалност.

Поради значителния си обхват, използването на софтуера на Palantir за целите на автоматизиран анализ на данни е от голямо значение за основните права. Въпреки че понастоящем няма конкретни доказателства за манипулация или злоупотреба от трети страни, функционалността на софтуера на Palantir есамо частично прозрачна за външни лица. Колкото по-непрозрачен е един софтуер, толкова по-трудно е да се обоснове защо конкретно лице е обект на полицейска мярка. В същото време, склонните към грешки или дискриминационни алгоритми са трудни за откриване. Тъй като в САЩ се отдава по-малко значение на защитата на данните, отколкото в ЕС, затова исъществуват значителни съмнения, дали европейските стандарти за защита на данните са били спазени по време на разработването на софтуера на Palantir.

В този контекст използването на софтуера на Palantir може да бъде конституционно оправдано само ако и до степента, в която то еабсолютно необходимо поради преобладаващи интереси за сигурност на федералното правителство или на дадена провинция.Дали съществува такава неотложна нужда от сигурност е доста съмнително.По-голямата част от провинциите досега се въздържат от използване на софтуера на Palantir, без това сериозно да компрометира ситуации, свързани със сигурността им. По принцип Германия е смятана за безопасна държава. Обективно погледнато, няма постоянно ескалиращи ситуации, свързани със сигурността в държавата, които да налага използването на софтуера на Palantir.

Сигурност на всяка цена

Дори ако имаше неотложна нужда от сигурност, използването на софтуера на Palantir би било разрешено само за преходен период, докато не бъдат въведени сравнително ефективни европейски системи. Освен това, германските органи по сигурността трябва да тестват софтуера на Palantir преди внедряването му, за да открият склонни към грешки или дискриминационни алгоритми. И накрая, органите по сигурността трябва да следят отблизо използването на софтуера на Palantir и да го оценяват редовно. На практика е важно, за да се гарантира, че само обучен персонал работи със софтуера на Palantir. Резултатите от софтуера на Palantir не могат да бъдат приети за точни, а трябва да бъдат разглеждани критично:Изкуственият интелект е просто помощно средство в разследващата работа; самите органи по сигурността трябва да вземат и поемат отговорност за съответните решения. Този общ принцип важи още повече, когато се разчита на системи с изкуствен интелект от страни извън ЕС.

Дебатът около използването на софтуер на Palantir илюстрира дилемата на цялото конституционно законодателство в областта на сигурността:Основният закон упълномощава и задължава държавата да гарантира сигурността на своите граждани. Основният закон обаче не изисква сигурност на всяка цена. Държавата трябва да приема компромиси със сигурността, доколкото те са необходими в името на свободата.

Тази максима важи още повече в ерата на изкуствения интелект: Органите по сигурността могат да използват изкуствен интелект при работата си по разследването, но те са подчинени на основните права и върховенството на закона. Дали неотложната нужда от сигурност оправдава използването на софтуера на Palantir е силно съмнително.Следователно би било добре федералното правителство и провинциалните правителства да приоритизират и насърчават разработването на собствен софтуер.

Превод и редакция от немски език адв. д-р Сибила Игнатова

1. Palantir е създадена от родения в Германия американски инвеститор и един от основателите на PayPal Питър Тийл през 2003 г. През 2004 г. Александър Карп се присъединява като главен изпълнителен директор. Компанията вече е публично листвана и е оценена на приблизително 300 милиарда долара.
2. VeRA (Verfahrensübergreifende Recherche- und Analyseplattform).
3. Авторът е стажант-юрист в адвокатската кантора Brock Müller Ziegenbein Rechtsanwälte Partnerschaft в Кил. От името на парламентарната група „Алианс 90/Зелените“ в парламента на провинция Хесен, кантората подава жалба срещу новите основни разпоредби на Закона за сигурност и ред на провинция Хесен пред Държавния съд на провинция Хесен тази година. Това е във връзка и с използването на софтуера на Palantir от органите за сигурност на провинция Хесен.
4. Статията може да бъде прочетена на немски език: Mit Künstlicher Intelligenz Straftäter finden: In: Legal Tribune Online, 14.08.2025, https://www.lto.de/persistent/a_id/57910
5. Виж текста на Решение от 16 февруари 2023 г. на Федералния конституционен съд на Германия: https://www.bundesverfassungsgericht.de/SharedDocs/Entscheidungen/DE/2023/02/rs20230216_1bvr154719.html