Австралийското правителство започва консултации за оценка на забраната за „високорисков“ AI – Cryptopolitan

Австралийското правителство инициира неочакван осемседмичен период на консултации, целящ да определи дали определени „високорискови“ инструменти за изкуствен интелект (AI) трябва да бъдат забранени. Този ход следва подобни мерки, предприети от други региони, включително Съединените щати, Европейския съюз и Китай, за справяне с рисковете, свързани с бързото развитие на ИИ.

На 1 юни министърът на индустрията и науката Ед Хусик разкри два документа за обществен преглед: един за „Безопасен и отговорен ИИ в Австралия“ и друг за генеративен ИИ от Националния съвет за наука и технологии. Тези документи бяха публикувани заедно с период на консултация, който ще остане отворен до 26 юли.

Австралийското правителство търси обратна връзка относно стратегии за насърчаване на „безопасното и отговорно използване на AI“, като проучва опции като доброволни етични рамки, специфични разпоредби или комбинация от двата подхода. По-специално, консултацията директно пита дали някои високорискови приложения или технологии за изкуствен интелект трябва да бъдат напълно забранени и търси информация относно критериите за идентифициране на такива инструменти.

Изчерпателният дискусионен документ включва проект на матрица на риска за AI модели, категоризирайки самоуправляващите се автомобили като „висок риск“ и генеративни AI инструменти за създаване на медицински досиета на пациенти като „среден риск“. Документът подчертава както положителните приложения на AI в сектори като медицина, инженерство и право, така и потенциалните вреди, свързани с инструменти за дълбоко фалшифициране, генериране на фалшиви новини и случаи, в които ботове с AI насърчават самонараняване.

Австралийско правителство срещу AI

Притесненията относно пристрастията в AI моделите, както и генерирането на безсмислена или невярна информация, известна като „халюцинации“ от AI системи, също са разгледани в дискусионния документ. Той признава, че приемането на AI в Австралия в момента е ограничено поради ниските нива на обществено доверие. Документът се позовава на разпоредбите за ИИ, прилагани в други юрисдикции, и временната забрана на Италия за ChatGPT като примери.

Освен това докладът на Националния съвет за наука и технологии подчертава предимствата на Австралия в роботиката и компютърното зрение, но отбелязва относителни слабости в основни области като големи езикови модели. Това поражда опасения относно концентрацията на генеративни AI ресурси в малък брой предимно базирани в САЩ технологични компании, което представлява потенциален риск за Австралия.

Докладът допълнително изследва глобалното регулиране на ИИ, предоставя примери за генеративни модели на ИИ и предполага, че такива модели вероятно ще имат широкообхватно въздействие върху сектори, вариращи от банкиране и финанси до обществени услуги, образование и творчески индустрии.