Umělá inteligence se stává nedílnou součástí našich pracovních procesů, ale s rostoucí integrací do webu a podnikových aplikací přicházejí i nová rizika. OpenAI včera oficiálně představila dvě zásadní bezpečnostní novinky pro ChatGPT: Lockdown Mode a štítky „Elevated Risk“.
Lockdown Mode: Digitální bunkr pro citlivá data
Lockdown Mode je volitelné, pokročilé nastavení určené pro uživatele v rizikových pozicích, jako jsou vedoucí pracovníci nebo bezpečnostní týmy. Tento režim radikálně omezuje interakci ChatGPT s externími systémy, aby se minimalizovalo riziko tzv. prompt injection útoků.
V tomto režimu je například prohlížení webu omezeno pouze na cacheovaný obsah, což znamená, že z kontrolované sítě OpenAI neodcházejí žádné živé požadavky. Tím se zamezuje možnosti, aby útočník pomocí podvržených instrukcí „vytáhl“ citlivá data z konverzace na svůj server.
Elevated Risk: Transparentnost nad bezpečností
Spolu s Lockdown módem zavádí OpenAI i standardizované varování „Elevated Risk“ (zvýšené riziko). To se bude objevovat u funkcí, které ze své podstaty mohou představovat bezpečnostní slabinu, například když nástroje jako Codex získají přímý přístup k síti pro vyhledávání dokumentace.
Změna paradigmatu: Od kódování k „Vibe Coding“
Zatímco OpenAI řeší bezpečnost, zbytek průmyslu směřuje k totální automatizaci vývoje. CEO společnosti Spotify, Gustav Söderström, šokoval prohlášením, že jejich nejlepší vývojáři od prosince nenapsali ani řádku kódu. Místo toho se věnují tzv. vibe codingu – generování kódu pomocí AI a jeho následné supervizi.
Pozadu nezůstává ani Unity. Matthew Bromberg (CEO Unity) oznámil, že v březnu na GDC představí beta verzi nástroje, který umožní „vypromptovat“ kompletní hru pouze v přirozeném jazyce, bez nutnosti ovládat programování.
Komentáře nejsou povoleny.