Avainsana: käyttöoikeuksien hallinta
-
Agenttitekoälyn ensimmäinen herätys – mitä Anthropicin tapauksesta pitäisi oppia?
Yhdysvaltalainen tekoäly-yhtiö Anthropic, joka tunnetaan Claude-tekoälymallien kehittäjänä ja OpenAI:n merkittävänä kilpailijana, julkaisi heinäkuun lopulla poikkeuksellisen avoimen selvityksen omista kyberturvallisuustesteistään. Yritys kertoi havainneensa kolme tapausta, joissa sen tekoälymallit pääsivät virheellisesti konfiguroidun testiympäristön vuoksi internetiin ja edelleen kolmen ulkopuolisen organisaation todellisiin järjestelmiin. Tapaukset havaittiin yli 141 000 arviointia käsittäneessä testiohjelmassa, jonka tarkoituksena oli selvittää, miten Claude-mallit toimivat…