Forskare anser att det är farligt om AI har samma mål som människor

Världens ledande forskare har gått ut med en varning ang AI (Artificial intelligence). Bland dom som skrivit under finns namn som Elon Musk, Steven Hawking, Steve Wozniak, Erik Brynjolfsson och många fler. Det dom oroar sig för är att AI kommer att vara betydligt intelligentare än oss utan att ha ett definierat mål. Dom menar att det är viktigt att sätta mål som maximerar samhällsnyttan.

Vi kan följaktligen säga att dom menar att det är ytterst farligt om vi sätter upp system där målet för AI inte är att maximera samhällsnyttan utan kanske andra mer egoistiska mål som t ex ekonomisk vinstmaximering.

Får inte det er att fundera? Varför har inte vi människor ett system där målet är att maximera samhällsnyttan? I dom system vi har idag är det bra att sälja vapen, tillåta planerat åldrande av produkter och vinstmaximera skola och sjukvård. För att inte tala om att lösningar för att nå klimatmålen hela tiden ställs mot ekonomiska intressen.

Om det är farligt för AI att ha dom målen så är det nog lika farligt för människan att ha dessa mål. Vi måste ha ett nytt samhällssystem där målet är att maximera samhällsnyttan istället för 1 % av befolkningens vinstmarginal.

Kommentera