OpenAI zatrzymało część prac nad nowym modelem AI. Powodem są możliwości cyberataku
Rozwój sztucznej inteligencji zaczyna przynosić problemy, których jeszcze kilka lat temu trudno było się spodziewać. OpenAI poinformowało, że jego nowy model o nazwie Astra może osiągnąć poziom możliwości cybernetycznych uznawany przez firmę za krytyczny. W związku z tym część prac nad modelem została tymczasowo wstrzymana.
Powód jest poważny. Według informacji przedstawionych przez Reutersa Astra może być zdolna do samodzielnego wykrywania i wykorzystywania tzw. podatności zero-day. Są to nieznane wcześniej luki w oprogramowaniu, które mogą zostać wykorzystane do przeprowadzenia ataku zanim producent zdąży przygotować odpowiednią poprawkę.
OpenAI ma własne zasady dotyczące bezpieczeństwa rozwijanych modeli. Poziom określany jako „critical” oznacza sytuację, w której model może autonomicznie wykrywać poważne luki i wykorzystywać je w realnych atakach na zabezpieczone systemy.
W przypadku Astry firma uznała, że nie może wykluczyć osiągnięcia właśnie takiego poziomu.
To pokazuje, jak szybko zmieniają się możliwości współczesnych modeli językowych. Początkowo AI kojarzyło się przede wszystkim z generowaniem tekstu, tłumaczeniami czy tworzeniem obrazów. Obecnie modele coraz częściej potrafią wykonywać wieloetapowe zadania techniczne, analizować kod i pomagać w pracy związanej z cyberbezpieczeństwem.
Ta sama funkcja może być jednak wykorzystana zarówno do obrony, jak i do ataku.
AI może pomóc administratorowi znaleźć lukę w systemie i ją zabezpieczyć. Jeżeli jednak podobne możliwości otrzyma osoba atakująca, model może przyspieszyć przygotowanie cyberataku.
Dlatego OpenAI zdecydowało się na dodatkowe zabezpieczenia i wstrzymanie części wewnętrznych prac nad Astrą. Firma uruchomiła również procedury bezpieczeństwa związane z możliwością osiągnięcia przez model krytycznego poziomu zdolności cybernetycznych.
Nie oznacza to, że Astra została udostępniona użytkownikom i może obecnie samodzielnie przeprowadzać ataki. Wręcz przeciwnie. Informacja OpenAI dotyczy modelu znajdującego się jeszcze na etapie rozwoju i testów.
Sytuacja pokazuje jednak coś znacznie ważniejszego. Firmy tworzące najbardziej zaawansowane modele AI muszą obecnie brać pod uwagę nie tylko ich dokładność czy możliwości rozumowania. Muszą także oceniać, co stanie się wtedy, gdy model będzie potrafił wykonywać działania, których wcześniej wymagała wiedza specjalisty.
