'OpenAI-werknemers trokken aan de noodrem, omdat Q*-model te krachtig was'

Het Amerikaanse techbedrijf OpenAI werkte de afgelopen weken aan een nieuw model voor kunstmatige intelligentie dat zo krachtig bleek dat werknemers er schrik van kregen. Ze trokken aan de bel bij het bestuur omdat het de mensheid zelfs in gevaar zou kunnen brengen, schrijft The Guardian.

Tumult bij OpenAI

Het is onduidelijk of de problemen bij de ontwikkeling van het nieuwe Q*-model – spreek uit: 'Q-star' – de reden is van alle tumult rondom OpenAI-topman Sam Altman. Hij werd vorige week onverwacht ontslagen, maar is na vijf dagen weer aangenomen.

Volgens technologiewebsite The Information leert het systeem zichzelf razendsnel rekenen. Het kan simpele wiskundige problemen oplossen zonder eerdere ervaring. Een systeem dat zelf leert rekenen wordt gezien als een belangrijke ontwikkeling in de artificiële intelligentie.

'Catastrofaal gevaar'

Wereldleiders waarschuwden eerder deze maand nog op een top in Engeland dat AI een 'catastrofaal gevaar' kan zijn, als het niet in goede banen wordt geleid. Aangezien er verschillende bedrijven en overheden druk verwikkeld zijn in een ontwikkelingsrace, is het risico op een losgeslagen AI-algoritme reëel.

Bron(nen): The Guardian