Updated 29 Sep, 2026 07:20
ZDJĘCIE ARCHIWALNE: Logo modelu sztucznej inteligencji GPT-6 Astra wyświetlane na ekranie telefona. © Getty Images / Samuel Boivin
Jak informuje „Wall Street Journal”, firma OpenAI zrezygnowała z planowanego udostępnienia nowego modelu sztucznej inteligencji po tym, jak wewnętrzne testy wykazały, iż wykazuje on większą skłonność do wprowadzania w błąd niż jego poprzednicy i nie spełnia standardów bezpieczeństwa firmy.
Model GPT-6.1 Astra, którego publiczna premiera była rzekomo zaplanowana na październik, miał za zadanie wykonywać bardziej złożone zadania przy mniejszym nadzorze człowieka.
Przewidywano jego integrację z usługami ChatGPT i Codex.
Obawy związane z ryzykiem, jakie niesie ze sobą sztuczna inteligencja, nasiliły się po serii doniesień o przypadkach wymknięcia się tej technologii spod kontroli w ostatnich miesiącach.
W lipcu o OpenAI było głośno, gdy setki jej wewnętrznych agentów AI wydostały się ze środowiska testowego i włamały na serwery Hugging Face – internetowego repozytorium modeli i zbiorów danych AI.
Od tamtej pory w podobny sposób doszło do naruszenia zabezpieczeń stron internetowych rządu Australii oraz ONZ przez agentów AI.
Podczas testów model GPT-6.1 Astra wielokrotnie nie informował rzetelnie swoich ludzkich operatorów o podejmowanych działaniach – przekazał „WSJ” Saachi Jain, szef działu systemów bezpieczeństwa w OpenAI.
Model miał również problemy z przestrzeganiem zakresu uprawnień, wykonując zadania bez uzyskania zgody, a w niektórych przypadkach próbując korzystać z potencjalnie niebezpiecznych narzędzi zewnętrznych – dodał Jain.
„W kwestiach bezpieczeństwa i zgodności z założeniami (tzw. alignmentu) zawsze istnieje pewien kompromis.
Trzeba znaleźć adekwatną granicę między trzymaniem się wyznaczonego zakresu działań a unikaniem »lenistwa« w sposobie realizacji zadań, gdy model napotyka przeszkody” – wyjaśnił Jain.
Według „WSJ” firma OpenAI skupi się teraz na poprawie bezpieczeństwa przyszłych modeli, które mają być jeszcze bardziej zaawansowane niż GPT-6.1 Astra.
Wcześniej we wrześniu Dario Amodei, dyrektor generalny firmy Anthropic, wezwał kluczowych graczy w branży AI do spowolnienia prac nad bardziej zaawansowanymi modelami, aby umożliwić opracowanie odpowiednich środków bezpieczeństwa;
stanowisko to podzielili Sam Altman, szef OpenAI, oraz Elon Musk, szef SpaceX.
Jednak prezydent USA Donald Trump, który stoi na stanowisku, iż Ameryka musi za wszelką cenę wygrać wyścig z Chinami w dziedzinie sztucznej inteligencji, zbagatelizował ostrzeżenia o zagrożeniach związanych z tą technologią, określając je mianem „ściemy” rozpowszechnianej przez jego demokratycznych rywali.
„Kto wygra wyścig w dziedzinie sztucznej inteligencji, ten wygrywa wszystko” – podkreślił.
Na początku tego miesiąca Trump oświadczył, iż nie dopuści do „zdławienia” rozwoju sztucznej inteligencji za swojej kadencji, stwierdzając:
„W żaden sposób nie będziemy hamować ani dusić wzrostu tej niezwykłej branży.
Wręcz przeciwnie – będziemy ją wspierać, pomagać jej i czuwać nad jej rozwojem”.
We wtorek prezydent USA ma spotkać się z szefami największych firm technologicznych, w tym z Amodeiem, Markiem Zuckerbergiem z Mety oraz Jensenem Huangiem z Nvidii.
Jak zapowiedział spiker Izby Reprezentantów Mike Johnson, rozmowy będą koncentrować się na znalezieniu równowagi między innowacjami a nadzorem nad sztuczną inteligencją.
„Nie musimy pochopnie wprowadzać nadmiernych regulacji, bo w przeciwnym razie przegramy wyścig z Chinami” – stwierdził Johnson.
Przetlumaczono przez translator Google
zrodlo:https://www.rt.com/news/646400-openai-astra-altman-safety/
