«Социальные рейтинги» — под запретом, распознавание лиц — только с разрешения суда
ЕС готовится ввести первый в мире закон, регулирующий использование искусственного интеллекта: 11 мая профильные комитеты Европарламента поддержали проект, за которым закрепилось название AI Act. Если документ примут, то во всех странах Евросоюза введут беспрецедентные ограничения, в том числе на системы распознавания лиц в общественных местах, прогнозирование правонарушений и социальный рейтинг на основе ИИ. «Медуза» подробнее рассказывает об этом законопроекте.
Европейский союз решил зарегулировать искусственный интеллект еще два года назад, в апреле 2021 года. Маргрет Вестагер, вице-председатель Еврокомиссии, тогда объясняла это необходимостью «доверять ИИ» и «проложить путь к этичному применению технологий во всем мире», в то время как «на карту поставлены безопасность и права граждан».
ЕС при этом не собирался полностью запрещать развитие искусственного интеллекта — и, наоборот, подчеркивал, что ИИ обладает «огромным потенциалом в здравоохранении, транспорте, энергетике, сельском хозяйстве, туризме и кибербезопасности».
Поначалу страны Евросоюза неспешно обсуждали варианты законопроекта, проводили исследования (например, об этичности использования ИИ и соблюдении прав человека) и вели дискуссии со специалистами. Но затем — на фоне стремительного развития технологий и гонки корпораций в области генеративного искусственного интеллекта — еврочиновникам пришлось поторопиться и в последний момент добавить в документ важнейшие поправки.
Вот что за несколько дней до голосования сказал агентству AP один из инициаторов законопроекта, румынский депутат Европарламента Драгош Тудораш:
Если еще [два года назад] кто-то сомневался, нужно ли нам вообще [какое-то регулирование искусственного интеллекта], то сейчас, я думаю, [никаких] сомнений больше нет.
11 мая два комитета, которые отвечают за регулирование ИИ, — по внутреннему рынку и защите прав потребителей, а также по гражданским свободам — одобрили AI Act. Проект поддержали 84 евродепутата, семь выступили против, 12 воздержались. Хотя новые стандарты еще далеки от вступления в силу, прошедшее голосование означает огромный шаг вперед для законодателей — особенно в текущей версии документа.
Для полиции и судов использование ИИ ограничат. А некоторые сервисы запретят вовсе
Категории риска
Евродепутаты предлагают разделять все системы, основанные на искусственном интеллекте, на четыре категории по риску: минимальный (или вообще его отсутствие), ограниченный, высокий и неприемлемый.
ИИ-системы с «минимальным» риском — под эту категорию должно подходить большинство инструментов, например игры или спам-фильтры, — будут работать без ограничений. Если система получит статус «ограниченного» риска (вероятно, чат-бот ChatGPT или фотогенератор Midjourney), то его создатели должны прежде всего соблюдать требования о «прозрачности»: предполагается, что пользователь должен знать, что перед ним — условно — дипфейк или созданный нейросетью текст.
«Высокую» степень риска ЕС видит в более специализированных ИИ-системах. Еврочиновники приводят в пример правосудие (например, если ИИ оценивает доказательства сторон), здравоохранение (медицинские приборы), транспортную сферу (беспилотные автомобили), образование (имеются в виду ситуации, когда ИИ определяет, кто заслуживает поступить, а кто нет), трудоустройство (к примеру, автоматическая сортировка резюме), госуслуги и контроль над миграцией (в том числе оценка подлинности документов). Все такие сервисы, как предполагается, не попадут к конечному пользователю, пока не пройдут самую тщательную оценку — и не будут гарантировать, что дают крайне точный и безопасный для человека результат.
Системы, которые в ЕС сочтут «неприемлемыми», просто запретят из-за угроз безопасности. Под эту категорию подходят ИИ-сервисы для выставления «социального рейтинга» на основе благонадежности граждан (да, как в Китае), а также для манипуляций (в пример приводятся игрушки с голосовым ассистентом, провоцирующие детей на «опасное поведение»).
10:52
10:19
13:35
18:14
23:49
10:16
09:13
09:01
09:03
15:04
13:29
17:03
16:28
16:22
16:09
15:03
15:44
14:42
13:22
09:33
10:49
10:02
22:28
22:22
20:06
14:03
11:09
10:27
10:05
13:26
12:41
11:58
10:45
10:35
10:02
11:23
10:02
15:19
15:05
13:37
13:07
12:48
12:13
11:35
11:05
10:26
15:21
15:02
12:44
12:02
| Вс | Пн | Вт | Ср | Чт | Пт | Сб | |
| 1 | 2 | 3 | 4 | ||||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 | |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 | |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 | |
| 26 | 27 | 28 | 29 | 30 | 31 | ||
16:17
10:00
12:58
15:39
09:49
13:25
14:04
12:51
15:28
12:39
13:24
13:02
12:39
15:08
11:15
14:33
12:26
11:23
13:25
15:19
14:27
15:16
12:13
15:14
14:44
13:25
11:06
13:12
11:13
14:15
11:26
09:35
11:41
10:37
10:55
12:28
12:13
12:51
11:35
10:45
16:51
10:21
14:27
12:37
11:23
13:03
10:47
13:03
13:15
14:58
