Lees over het conflict tussen het Pentagon en Anthropic over ethische regels voor het gebruik van AI in militaire taken, met een contract van 200 miljoen dollar op het spel.
© RusPhotoBank
Het Pentagon en AI-ontwikkelaar Anthropic staan op het punt van een conflict over de voorwaarden voor het gebruik van het Claude-model. Het meningsverschil draait niet om de technologie zelf, maar om de regels die het bedrijf stelt voor militaire toepassingen.
Het Pentagon eist dat alle kunstmatige intelligentiesystemen waarmee het samenwerkt, bruikbaar moeten zijn voor alle wettelijke militaire taken. Dit omvat nationale veiligheidsscenario's die buiten standaard bedrijfsbeperkingen kunnen vallen. Als Anthropic niet akkoord gaat, kan samenwerking op belangrijke defensieprojecten worden opgeschort.
Anthropic houdt ondertussen vast aan strikte ethische normen. Het bedrijf verbiedt het gebruik van Claude in autonome wapensystemen en massasurveillance van burgers zonder menselijke betrokkenheid. Het bedrijf benadrukt dat het naleven van deze regels cruciaal is in AI-ontwikkeling, vooral in situaties die mensenlevens raken.
Op het spel staat een contract met het Amerikaanse ministerie van Defensie ter waarde van maximaal 200 miljoen dollar, dat afgelopen zomer werd getekend. Dit contract voorzag in de integratie van Claude in verschillende defensiesystemen, maar dreigt nu te stranden door fundamentele meningsverschillen tussen de partijen. Het Pentagon suggereert dat als de voorwaarden niet worden herzien, de samenwerking volledig kan worden beëindigd.
De situatie bij Anthropic illustreert de groeiende kloof tussen de ethische ambities van technologiebedrijven en de praktische vereisten van de defensiesector. Dit roept de vraag op wie de grenzen moet bepalen voor krachtige AI-toepassingen: ontwikkelaars, de overheid of wetgevers.