Ръководителите на Google DeepMind, OpenAI и Anthropic настояват за държавен и международен контрол върху най-мощните модели с изкуствен интелект. Предложенията идват на фона на предупрежденията, че технологиите се развиват по-бързо от законите.

На 14 юли главният изпълнителен директор на Google DeepMind Демис Хасабис предложи американски надзорен орган за frontier AI, тоест за най-напредналите модели.

Според плана органът ще тества системите преди публичното им пускане. Той ще може и да координира временно забавяне при установяване на сериозни рискове.

Три различни модела за контрол

Хасабис предлага структура, подобна на Регулаторния орган за финансовата индустрия в Съединените щати, известен като FINRA. Органът работи под надзора на Комисията по ценните книжа и борсите.

Първоначално компаниите доброволно ще предоставят моделите си за проверка. По-късно тестовете могат да станат задължително условие за достъп до американския пазар.

Главният изпълнителен директор на Anthropic Дарио Амодеи защитава по-строг подход. Той предлага федерална агенция по модела на Федералната авиационна администрация на Съединените щати, известна като FAA.

Агенцията би могла да спира опасни системи още преди пускането им.

Сам Алтман от OpenAI предлага трети вариант. Той настоява за международен форум под ръководството на Съединените щати.

Форумът ще определя стандарти, ще оценява рисковете и ще сертифицира държави и компании, които спазват правилата.

Защо компаниите промениха позицията си

Причината не е само обществената безопасност. Компаниите се сблъскват с различни национални закони, проверки и ограничения.

Това повишава разходите и създава риск един модел да бъде разрешен в една държава, но блокиран в друга.

  • Едни и същи модели трябва да преминават през различни проверки.
  • Компаниите не знаят предварително кои изисквания ще важат при пускането на нов продукт.
  • По-малките разработчици трудно могат да финансират сложни сертификационни процедури.
  • Големите лаборатории вече разполагат с юридически, технически и политически екипи, които могат да работят с новите правила.

Така регулацията може едновременно да намали риска и да укрепи позициите на най-големите компании.

Критиците предупреждават, че правила, създадени за безопасност, могат да се превърнат в бариера за стартиращи компании и разработчици на open-source модели.

Съединените щати искат водеща роля

OpenAI публично подкрепя американски национален стандарт, който да стане основа за международна система.

Компанията настоява за оценки на риска, докладване на сериозни инциденти, независими одити и по-строги правила за сигурност.

В публикация от 15 юли директорът по глобалните въпроси на OpenAI Крис Лиан заяви, че разпокъсаните закони на отделните американски щати създават несигурност.

Компанията подкрепя обща федерална рамка и последващо международно разширяване на този модел.

Ако американските правила станат международен стандарт, Вашингтон ще получи по-голямо влияние върху достъпа до изчислителна мощ, модели и ключова инфраструктура.

Какво означава това за Европа и България

Европейският съюз вече има собствен подход чрез Регламента за изкуствения интелект, известен като AI Act.

Той разделя приложенията според риска и налага по-строги изисквания към системите, които могат да засегнат здравето, сигурността и основните права.

На 6 и 7 юли в Женева всички държави от ООН участваха в специален международен диалог за управлението на изкуствения интелект.

Европейският съюз настоя за независима научна оценка, защита на децата, прозрачност и правила, основани на човешките права.

За България спорът има пряк ефект. Българските компании, които продават AI услуги на единния европейски пазар, ще трябва да следят европейските изисквания.

Това важи за софтуер, използван в:

  • подбора на служители;
  • образованието;
  • здравеопазването;
  • кредитирането;
  • публичната администрация.

Европейската система може да осигури по-голяма защита на потребителите. Тя обаче може и да увеличи разходите за малките фирми.

Рискът е международните стандарти да се изградят върху сложни процедури, достъпни основно за най-богатите лаборатории.

Правилата изостават

На 6 юли генералният секретар на ООН Антонио Гутериш предупреди, че изкуственият интелект се развива по-бързо от способността на държавите да го регулират.

Той посочи рискове за децата, пазара на труда, изборите и сигурността.

Същинският спор вече не е дали ще има правила. Спорът е кой ще ги определя, колко ще струват и дали ще ограничат само опасните модели, или ще затвърдят властта на компаниите, които ги разработват.

Промяната в тона на лидерите в AI индустрията показва, че тя приема държавната намеса като неизбежна.

Основният въпрос е дали глобалната система ще бъде независим регулатор в обществен интерес, или инструмент, който големите компании ще използват, за да контролират достъпа до следващото поколение технологии.