• Huvud
  • >
  • Tech
  • >
  • Elon Musk donerar 10 miljoner dollar för att hålla robotar från att mörda dig

Elon Musk donerar 10 miljoner dollar för att hålla robotar från att mörda dig

Anonim

Elon Musk är orolig att AI kommer att förstöra mänskligheten, och han bestämde sig för att donera 10 miljoner dollar mot forskning om hur vi kan hålla konstgjord intelligens trygg. Musk, VD för Tesla och SpaceX, har tidigare uttryckt oro för att något som händer i Terminator kan hända i verkligheten. Han har också sagt att AI är "potentiellt farligare än nukes". Syftet med denna donation är att både förhindra att det händer och att se till att AI används för gott och att gynna mänskligheten.


"Du kan konstruera scenarier där återhämtning av mänsklig civilisation inte uppstår."

"Det är bäst att försöka förhindra att en negativ omständighet uppstår än att vänta på att den ska inträffa och då vara reaktiv", säger Musk. "Det här är ett fall där antalet negativa resultat, vissa av dem är ganska allvarliga. Det är inte klart om vi skulle kunna återhämta sig från några av dessa negativa resultat. Faktum är att du kan konstruera scenarier där återhämtning av mänsklig civilisation gör inte förekomma. När risken är så svår, verkar det som att du borde vara proaktiv och inte reaktiv. "

Pengarna kommer att distribueras till forskare genom bidragstävlingar, med ansökningsförfarandet som börjar på måndag. Övervaka distributionen är Life of Life Institute, som beskriver sig som en organisation "arbetar för att mildra existentiella risker inför mänskligheten." Institutet bryr sig inte om forskare är i akademin eller med ett företag - det vill bara att pengarna distribueras till människor med vad det anser bra idéer. "Planen är att tilldela majoriteten av bidragsmedel till AI-forskare", förklarar institutet, "och resten till AI-relaterad forskning som involverar andra områden som ekonomi, lag, etik och politik."

Finansiera forskning om artificiell intelligens säkerhet. Det är allt roligt och spel tills någon förlorar ett jag http://t.co/t1aGnrTU21

- Elon Musk (@elonmusk) 15 januari 2015

Musk var bland de högprofilerade signatörerna av ett öppet brev från FLI tidigare i veckan, varnar forskare att AI inte bara ska kunna växa, men mer fördelaktigt. Det är precis vad hans pengar går mot. Medan FLI inte ger några specifika uppgifter om vad den vill se ut ur forskningen, gav den en lång lista med riktlinjer och prioriteringar för forskare i sin skrivelse tidigare i veckan. Visst kan några av dessa idéer filtrera i de förslag som det till sist accepterar och distribuerar Musks finansiering också.

FLI: s föreslagna forskningsprioriteringar innefattar att optimera AI: s ekonomiska påverkan så att man undviker att förstöra arbeten på ett sätt som ökar inkomstskillnaden, bestämma hur AI ska hantera etiska frågor som de som omger autonoma fordonskollisioner och hur man kan garantera mänsklig kontroll över något som en vapen systemet.

Verge Video Archives : Google - Rise of the Machines

Tidigare Artikel «
Nästa Artikel