Dat heeft topman Sam Altman bekendgemaakt. Het akkoord volgt kort op de aankondiging van de Amerikaanse overheid dat OpenAI's rivaal Anthropic is aangemerkt als risico in de toeleveringsketen. Het Pentagon wilde chatbot Claude van Anthropic gebruiken zonder beperkingen. Maar het bedrijf weigerde beveiligingen weg te halen die voorkomen dat de technologie wordt ingezet voor massatoezicht op burgers of voor wapens die zonder menselijke tussenkomst doelen kiezen en aanvallen.

Altman beweert nu dat het ministerie in de overeenkomst die hij heeft gesloten akkoord gaat met maatregelen op dat vlak. "Twee van onze belangrijkste veiligheidsprincipes zijn het verbod op binnenlandse massasurveillance en menselijke verantwoordelijkheid voor het gebruik van geweld, ook voor autonome wapensystemen. Het Ministerie van Oorlog is het eens met deze beginselen, laat ze terugkomen in wet- en regelgeving en we hebben ze in onze overeenkomst opgenomen." (HLN)