Sam Altman: władza nad AI nie może trafić do kilku firm

Dyrektor generalny OpenAI Sam Altman stwierdził, że jednym z największych zagrożeń dla rozwoju sztucznej inteligencji jest koncentracja tej technologii w rękach niewielkiej liczby firm. W podcaście Relentless opisał dwa możliwe scenariusze: wolne społeczeństwo z szerokim dostępem do AI oraz system autorytarny, który wykorzystuje te same możliwości do wzmacniania kontroli.

Zdaniem Altmana ograniczanie wolności w imię bezpieczeństwa często prowadzi w dłuższej perspektywie do negatywnych skutków. Dlatego ludzie powinni otrzymywać narzędzia oparte na AI i samodzielnie decydować, jak ich używać oraz jak wyrażać własne poglądy.

Wypowiedź padła w czasie sporu o to, jak otwarte powinny być najbardziej zaawansowane modele. Duże amerykańskie firmy technologiczne poparły apel przeciw przedwczesnym ograniczeniom w dystrybucji modeli z otwartymi wagami. Ich zdaniem dostępność takich systemów wzmacnia konkurencję i zmniejsza zależność od kilku dostawców. Anthropic zajmuje ostrożniejsze stanowisko, wskazując na ryzyko nadużyć związanych z potężnymi modelami.

Dodatkowym impulsem do dyskusji była premiera Kimi K3 chińskiej firmy Moonshot AI. Producent przedstawia system jako nowy model flagowy: oferuje on okno kontekstowe liczące około miliona tokenów, a jego wagi zostały opublikowane. Rosnąca popularność podobnych rozwiązań pogłębiła w USA podział między zwolennikami szerokiego dostępu a tymi, którzy chcą ograniczać rozpowszechnianie chińskich technologii AI.

Stanowisko Altmana jest szczególnie interesujące, ponieważ OpenAI nie publikuje wag swoich najpotężniejszych modeli. Sam szef firmy przekonuje jednak, że jego długoterminowym celem nadal jest szerokie upowszechnienie inteligencji maszynowej — o ile nie doprowadzi ono do nadmiernej koncentracji władzy gospodarczej i politycznej.