Вестегер призова за “особено високи” стандарти за изкуствения интелект в публичния сектор

Маргретe Вестегер, заместник-председател на Европейската комисия, отговарящ за “Европа, пригодна за цифровата ера” по време на заседание на Комисията по правни въпроси към Европейския парламент в Брюксел, 27 януари 2020 г. [EPA-EFE / STEPHANIE LECOCQ]

Технологиите за изкуствен интелект (ИИ), внедрени в публичния сектор, трябва да отговарят на “особено високи стандарти, що се отнася до прозрачността и отчетността”, заяви в понеделник (27 януари) Маргрете Вестегер, заместник-председателят на Европейската комисия, отговарящ за дигиталната политика.

Говорейки пред евродепутатите в комисията по правни въпроси на Европейския парламент, Вестегер предупреди също, че при използването на някои технологии за изкуствен интелект, като лицевото разпознаване, могат да възникнат “сериозни опасения”.

Лицевото разпознаване “може да се използва по начини, които биха породили сериозни опасения от гледна точка на защитата на данните, но и на основни ценности като свободата на изразяване”, заяви Вестегер, която отговаря и за антимонополното законодателство на ЕС.

Европейската комисия ще отговори на опасенията в предстоящата Бяла книга за изкуствения интелект, която ще бъде публикувана на 19 февруари, добави комисарят.

Коментарите на Вестагер идват след скорошно разкритие на EURACTIV, че Европейската комисия обмисля мерки за налагане на временна забрана на технологиите за лицево разпознаване, използвани както в публичния, така и в частния сектор. В момента обаче това не е предпочитаният от Комисията начин на действие.

В по-широк план ЕК разглежда редица въпроси, свързани с бъдещото внедряване на ИИ в Европа, като например “качеството и проследяването на данните”, заяви Вестегер пред евродепутатите.

Това означава, че от компаниите може да се изисква повече информация за алгоритмите на технологиите за ИИ и за потоците от данни.

В допълнение Комисията би искала да види “прозрачност по отношение на възможностите, а също и ограниченията на системите за ИИ”, посочи Вестегер и добави, че е необходима допълнителна прозрачност и по отношение на взаимодействието на ИИ устройствата и хората –  човекът, управляващ ИИ система следва да бъде напълно наясно с използваните технологии.

По подразбиране технологиите за ИИ ще бъдат предмет на действащите правила на ЕС, насочени към осигуряването на високи стандарти в областта на защитата на личните данни, неприкосновеността на личния живот, недискриминацията, защитата на половете и правилата за отговорност за безопасност на продуктите, отбеляза Вестегер.

Коментарите ѝ дойдоха в същия ден, в който правителството на Великобритания представи свой собствен подход към внедраването на изкуствения интелект в публичните институции, като посочи редица рискови области, които трябва да бъдат разгледани, и подчерта, че всяка интелигентна система трябва да бъде съвместима, както с Общия регламент на ЕС за защита на данните, така и със Закона за защита на данните на Обединеното кралство от 2018 г.

В същото време американски служители лобират Брюксел за възприемане на по-мек подход по отношение на бъдещото регулиране на технологиите за изкуствен интелект.

На 7 януари от Белият дом представиха набор от регулаторни принципи, насочени към избягване на свръхрегулирането на технологиите за изкуствен интелект в частния сектор. В изявление САЩ заявиха, че регламент за ИИ не трябва да се прилага, докато не бъдат направени оценка на риска и анализ на разходите и ползите, добавяйки, че правителството се надява европейските му партньори да възприемат подобен подход.

“Европа и съюзниците ни трябва да избягват твърдите подходи, задушаващи иновациите и вместо това да обмислят подобен регулаторен модел“, се казва в съобщение на Белия дом.

Главният технологичен директор на САЩ Майкъл Крациос, който изигра водеща роля във формирането на позицията на страната по въпроса, се срещна с Вестегер след изявлението на САЩ, след като повдигна въпроса пред нея и на конференцията на предприемачите и инвеститорите от технологичния сектор през ноември в Лисабон.

В Брюксел всеки регулаторен подход за внедряването на технологии за изкуствен интелект ще трябва да се оформи бързо. Германското вътрешно министерство наскоро обяви намерения да въведе автоматично лицево разпознаване на 134 жп гари и 14 летища, докато Франция планира да създаде правна рамка, позволяваща снабдяването на системите за видеонаблюдение с технологии за лицево разпознаване.