Tech

Главният изпълнителен директор на OpenAI Сам Алтман свидетелства в „историческо“ изслушване в Сената относно безопасността на ИИ

Преди 12 месеца
Новини за Bitcoin Ethereum

Сам Алтман, главен изпълнителен директор на OpenAI и съосновател на Worldcoin, наскоро свидетелства пред Конгреса заедно с шефа на тръста на IBM Кристина Монтгомъри и професора от Нюйоркския университет Гари Маркъс. 

Сесията на съдебната подкомисия по поверителност, технологии и право на Сената представлява първата официална изява на Алтман пред Конгреса, давайки възможност на сенаторите да разпитат главния изпълнителен директор на OpenAI относно възгледите на неговата компания относно регулирането.

Наречена „историческа“ сесия от сенатора от Илинойс Дик Дърбин, процедурата се фокусира върху разбирането на потенциалните заплахи, породени от модели на генеративен изкуствен интелект (AI) като ChatGPT и как законодателите трябва да подходят към регулирането.

Коментарите на Алтман – които бяха описани от членовете на Конгреса и колегата Маркъс като изглеждащи искрени и истински – изглежда изненадаха няколко членове на Сената.

Той се застъпи за създаването на федерална агенция за надзор с правомощия да издава и отменя лицензи за разработка, заяви, че вярва, че създателите трябва да бъдат компенсирани, когато работата им се използва за обучение на AI система и се съгласи, че потребителите, които претърпят вреди, използвайки AI продукти, трябва да бъдат има право да съди предприемача.

Алтман отхвърли въпроси, свързани със скорошното писмо „пауза на AI“, призоваващо за шестмесечен мораториум върху внедряването на системи, по-мощни от GPT-4, AI системата, която е в основата на ChatGPT, като заяви, че OpenAI е прекарал повече от шест месеца в оценка на GPT -4 преди разгръщане. Той каза, че компанията няма планове да внедри друг модел през следващите шест месеца.

Маркъс, подписал писмото за пауза, призна, че е съгласен повече с духа на писмото, отколкото със съдържанието му, но професорът от Нюйоркския университет призова Конгреса да обмисли глобален надзор, както и федерално регулиране - мнение, с което Алтман се съгласи.

По време на изслушването тримата гост-лектори се обединиха по повечето теми. Това включва подкрепа за защита на поверителността, по-голям правителствен надзор, одит от трета страна и колко скоро правителството на Съединените щати трябва да се стреми да регулира индустрията (незабавно).

Въпреки това, един от единствените източници на разногласия идва от Монтгомъри от IBM, който не е съгласен с идеята, че ще е необходима нова федерална агенция за прилагане на регулациите в индустрията на ИИ.

Нейните изявления показват, че IBM е в полза на хирургичен подход към регулирането, като се използват съществуващи в момента регулаторни органи, за да се съсредоточи прилагането върху конкретни случаи на употреба.

Докато и тримата говорители се съгласиха, че AI може да бъде вреден и изисква интервенции за безопасност, Маркъс даде да се разбере, че вярва, че в момента никой не разбира или може да предвиди колко вредни могат да бъдат или ще станат съществуващите AI продукти. Той се застъпи за предпазлив подход, включващ по-голяма прозрачност.

Говорителите също се съгласиха с членовете на Конгреса, че САЩ се нуждаят от национален закон за неприкосновеността на личния живот, подобен на този в Европа. Алтман обаче не е съгласен с идеята, че потребителите трябва да могат да се откажат от включването на техните публично достъпни уеб данни в набори от данни за обучение.

Алтман също така не иска да заяви официално, че OpenAI се противопоставя на предлагането на рекламна версия на своите GPT продукти. Изпълнителният директор просто заяви, че „няма да каже никога“.

Това, въпреки казаното по-рано в изслушването, че продуктите на OpenAI се придържат към стандартите за поверителност на потребителите, тъй като компанията не е изградила потребителски профили за целите на обслужването на персонализирани реклами.

Позовавайки се на своя опит като възпитаник на Станфорд и законодател, работещ с децентрализирани финанси и Web3 компании, сенаторът от Ню Джърси Кори Букър повдигна по-сериозния проблем с поверителността на централизацията. Той попита какви биха били последиците от централизацията и монополизацията за индустрията, въпрос, на който Маркъс отговори със сериозното предупреждение, че страната може да рискува да даде контрол върху общественото възприятие на малък брой участници - водещите компании за ИИ с достатъчно пари да се конкурират с Microsoft, Google и Amazon.

Алтман, чийто проект Worldcoin съчетава децентрализиран криптовалутен актив в блокчейна на Ethereum с удостоверяване на самоличността чрез технология за сканиране на ириса, обясни, че OpenAI просто предоставя платформа и че демократизирането на продуктите на OpenAI се случва, когато разработчици, компании и крайни потребители адаптират GPT API за „фантастични“ употреби.

Свързани: Главен изпълнителен директор на OpenAI в „преговори за напреднали“ за $100 милиона финансиране от Worldcoin: Доклад