«Социальные рейтинги» — под запретом, распознавание лиц — только с разрешения суда
ЕС готовится ввести первый в мире закон, регулирующий использование искусственного интеллекта: 11 мая профильные комитеты Европарламента поддержали проект, за которым закрепилось название AI Act. Если документ примут, то во всех странах Евросоюза введут беспрецедентные ограничения, в том числе на системы распознавания лиц в общественных местах, прогнозирование правонарушений и социальный рейтинг на основе ИИ. «Медуза» подробнее рассказывает об этом законопроекте.
Европейский союз решил зарегулировать искусственный интеллект еще два года назад, в апреле 2021 года. Маргрет Вестагер, вице-председатель Еврокомиссии, тогда объясняла это необходимостью «доверять ИИ» и «проложить путь к этичному применению технологий во всем мире», в то время как «на карту поставлены безопасность и права граждан».
ЕС при этом не собирался полностью запрещать развитие искусственного интеллекта — и, наоборот, подчеркивал, что ИИ обладает «огромным потенциалом в здравоохранении, транспорте, энергетике, сельском хозяйстве, туризме и кибербезопасности».
Поначалу страны Евросоюза неспешно обсуждали варианты законопроекта, проводили исследования (например, об этичности использования ИИ и соблюдении прав человека) и вели дискуссии со специалистами. Но затем — на фоне стремительного развития технологий и гонки корпораций в области генеративного искусственного интеллекта — еврочиновникам пришлось поторопиться и в последний момент добавить в документ важнейшие поправки.
Вот что за несколько дней до голосования сказал агентству AP один из инициаторов законопроекта, румынский депутат Европарламента Драгош Тудораш:
Если еще [два года назад] кто-то сомневался, нужно ли нам вообще [какое-то регулирование искусственного интеллекта], то сейчас, я думаю, [никаких] сомнений больше нет.
11 мая два комитета, которые отвечают за регулирование ИИ, — по внутреннему рынку и защите прав потребителей, а также по гражданским свободам — одобрили AI Act. Проект поддержали 84 евродепутата, семь выступили против, 12 воздержались. Хотя новые стандарты еще далеки от вступления в силу, прошедшее голосование означает огромный шаг вперед для законодателей — особенно в текущей версии документа.
Для полиции и судов использование ИИ ограничат. А некоторые сервисы запретят вовсе
Категории риска
Евродепутаты предлагают разделять все системы, основанные на искусственном интеллекте, на четыре категории по риску: минимальный (или вообще его отсутствие), ограниченный, высокий и неприемлемый.
ИИ-системы с «минимальным» риском — под эту категорию должно подходить большинство инструментов, например игры или спам-фильтры, — будут работать без ограничений. Если система получит статус «ограниченного» риска (вероятно, чат-бот ChatGPT или фотогенератор Midjourney), то его создатели должны прежде всего соблюдать требования о «прозрачности»: предполагается, что пользователь должен знать, что перед ним — условно — дипфейк или созданный нейросетью текст.
«Высокую» степень риска ЕС видит в более специализированных ИИ-системах. Еврочиновники приводят в пример правосудие (например, если ИИ оценивает доказательства сторон), здравоохранение (медицинские приборы), транспортную сферу (беспилотные автомобили), образование (имеются в виду ситуации, когда ИИ определяет, кто заслуживает поступить, а кто нет), трудоустройство (к примеру, автоматическая сортировка резюме), госуслуги и контроль над миграцией (в том числе оценка подлинности документов). Все такие сервисы, как предполагается, не попадут к конечному пользователю, пока не пройдут самую тщательную оценку — и не будут гарантировать, что дают крайне точный и безопасный для человека результат.
Системы, которые в ЕС сочтут «неприемлемыми», просто запретят из-за угроз безопасности. Под эту категорию подходят ИИ-сервисы для выставления «социального рейтинга» на основе благонадежности граждан (да, как в Китае), а также для манипуляций (в пример приводятся игрушки с голосовым ассистентом, провоцирующие детей на «опасное поведение»).
16:59
16:27
15:55
15:16
14:44
14:15
13:59
13:33
12:55
12:22
11:59
11:39
11:12
10:50
10:25
09:59
09:39
09:09
17:49
17:27
17:07
16:47
16:26
16:06
15:25
15:14
15:05
14:44
14:24
13:53
13:33
13:03
12:44
12:22
12:02
11:39
11:17
10:55
10:32
10:30
10:10
09:51
09:09
17:49
16:06
15:45
15:23
14:53
14:33
14:27
12:55 08.11.25
11:59 08.11.25
11:39 08.11.25
09:39 08.11.25
14:15 08.11.25
09:09 08.11.25
12:22 08.11.25
09:59 08.11.25
| Вс | Пн | Вт | Ср | Чт | Пт | Сб | |
| 1 | 2 | ||||||
| 3 | 4 | 5 | 6 | 7 | 8 | 9 | |
| 10 | 11 | 12 | 13 | 14 | 15 | 16 | |
| 17 | 18 | 19 | 20 | 21 | 22 | 23 | |
| 24 | 25 | 26 | 27 | 28 | 29 | 30 | |
12:58
15:39
09:49
13:25
14:04
12:51
15:28
12:39
13:24
13:02
12:39
15:08
11:15
14:33
12:26
11:23
13:25
15:19
14:27
15:16
12:13
15:14
14:44
13:25
11:06
13:12
11:13
14:15
11:26
09:35
11:41
10:37
10:55
12:28
12:13
12:51
11:35
10:45
16:51
10:21
14:27
12:37
11:23
13:03
10:47
13:03
13:15
14:58
14:55
14:31
