Google werkt aan een manier om kunstmatige intelligentie een halt toe te roepen.

Het is het doemscenario dat we in films vaak genoeg voorbij hebben zien komen: kunstmatige intelligentie die op den duur zo slim worden dat ze zich tegen de mensheid keren. Of het daadwerkelijk ooit zo uit de klauwen gaat lopen: geen idee. Maar we kunnen het maar beter voor zijn, moet Google hebben gedacht. De internetgigant werkt aan een oplossing.

Rode knop

Natuurlijk hebben robots en andere machines al een aan- en uitknop. Maar stel dat ze het aan- en uitzetten van die knop weten te omzeilen als ze steeds maar slimmer worden? DeepMind, het A.I.-bedrijf van Google, liet via een rapport weten bezig te zijn met het realiseren van een ‘rode knop’. Deze moet kunstmatige intelligentie te allen tijde uit kunnen zetten, zonder dat de robots daar een stokje voor steken.

Het zou hier niet daadwerkelijk gaan om een ‘rode knop’. Samen met de University of Oxford heeft Deepmind een framework ontwikkeld om de handeling van een intelligent systeem “veilig te onderbreken”, zo wordt gemeld in het rapport. Dit framework moet de robot ‘het idee’ geven zelf te stoppen met een handeling, terwijl er in werkelijkheid een seintje van buitenaf is gegeven.

Knappe koppen

Uiteraard, als kunstmatige intelligentie slimmer wordt dan de mens, zijn ze in staat om dit rapport te lezen en het framework alsnog te omzeilen. En dan zullen de knappe koppen van DeepMind een nieuw trucje moeten verzinnen.

Bronnen: Safely Interruptible Agents (PDF), Gizmodo, Popular Science