Правительство Австралии объявило о внедрении строгих регламентов для использования искусственного интеллекта федеральными агентствами при принятии решений о государственных услугах и социальных пособиях. Новые меры направлены на обеспечение прозрачности, справедливости и точности алгоритмических систем, чтобы исключить ошибки в распределении бюджетных средств. Усиление контроля стало ответом на ряд инцидентов, связанных с некорректной работой автоматизированных сервисов в ключевых ведомствах страны.
Защита прав граждан и новые ограничения
Согласно новым правилам, федеральные структуры, такие как Centrelink и Австралийское ведомство по обслуживанию населения, обязаны соблюдать жесткие рамки при эксплуатации систем на базе ИИ. Ключевым изменением стал запрет на полную передачу процессов одобрения пособий автоматике. Теперь окончательное решение должно оставаться за человеком, чтобы минимизировать риски необоснованных отказов.
- Внедрение обязательной отчетности о работе алгоритмов.
- Создание механизмов оперативного обжалования решений, принятых с участием ИИ.
- Регулярный аудит систем на предмет предвзятости и программных ошибок.
Предпосылки реформы и прошлые инциденты
Необходимость ужесточения законодательства возникла после расследования Федерального омбудсмена Австралии, которое выявило серьезные сбои в автоматизированных системах. Почти тысяча заявителей на пособие по безработице была незаконно лишена выплат из-за ошибок в алгоритме отмены. Кроме того, критике подверглись инструменты оценки бюджетов для участников Национальной программы страхования по инвалидности (NDIS) и систем распределения услуг по уходу на дому.
Одобрение пособий не может быть полностью передано ИИ, человеческий контроль остается обязательным элементом системы государственного управления.
Расширение полномочий надзорных органов
В настоящее время омбудсмен инициировал дополнительные проверки инструментов оценки в сфере здравоохранения. Особое внимание уделяется алгоритмам, рассчитывающим объемы финансовой поддержки для пожилых людей и граждан с ограниченными возможностями. Правительство подчеркивает, что технологический суверенитет и этика должны стоять выше эффективности автоматизации, когда речь идет о базовых правах граждан на социальное обеспечение.
Принятые меры по регулированию ИИ в Австралии станут важным прецедентом для мирового сообщества в вопросе цифровой трансформации госсектора. Ожидается, что внедрение новых стандартов позволит восстановить доверие населения к государственным цифровым сервисам и предотвратить масштабные юридические споры в будущем. Опыт Канберры может лечь в основу аналогичных законопроектов в других странах ОЭСР.