De strijd om de slimme schat!

Amazon heeft de Amerikaanse overheid benaderd met een verzoek om het geavanceerde AI-model Fable 5 van het bedrijf Anthropic offline te halen. Dit verzoek kwam voort uit zorgen dat criminelen mogelijk misbruik zouden maken van dit krachtige model. Fable 5 is een publieke versie van Mythos, een AI-tool die bekendstaat om zijn vermogen om beveiligingslekken in computersystemen te vinden. Terwijl Mythos alleen aan een selecte groep werd aangeboden, is Fable 5 toegankelijker, maar met strenge veiligheidsmaatregelen om misbruik te voorkomen.

De zorgen van Amazon zijn ontstaan na een rapport waarin een vermeende kwetsbaarheid in Fable 5 werd besproken. Volgens Amazon zou deze kwetsbaarheid kwaadwillenden in staat kunnen stellen om de veiligheidsmaatregelen te omzeilen. Anthropic, het bedrijf achter de AI-tool, heeft deze beweringen echter betwist en stelt dat het om een normaal beveiligingslek gaat dat ook in andere modellen voorkomt.

De Amerikaanse overheid heeft inmiddels aangegeven dat AI-bedrijven eerst goedkeuring moeten vragen voordat ze krachtige AI-modellen uitbrengen. Dit betekent dat alles op Mythos-niveau of hoger eerst door de overheid moet worden goedgekeurd. Deze nieuwe regelgeving heeft geleid tot een volledige blokkade van Fable 5, waardoor medewerkers van Anthropic die buiten de VS zijn geboren ook geen toegang meer hebben tot hun eigen modellen.

De relatie tussen Anthropic en de Amerikaanse overheid is al enige tijd gespannen. Momenteel loopt er een rechtszaak omdat de overheid het bedrijf als een veiligheidsrisico beschouwt. Deze situatie benadrukt de complexiteit van de ontwikkelingen in de wereld van kunstmatige intelligentie en de zorgen die daarmee gepaard gaan.