<\/p>\n
Het jaar is 2027. Krachtige kunstmatige intelligentiesystemen worden slimmer dan mensen en veroorzaken de wereldwijde volgorde. Chinese spionnen hebben de AI -geheimen van Amerika gestolen en het Witte Huis haast zich om wraak te nemen. Binnen een toonaangevend AI -laboratorium zijn ingenieurs bang om te ontdekken dat hun modellen ze beginnen te misleiden, waardoor de mogelijkheid wordt opgeroepen dat ze rogue gaan.<\/p>\n
Dit zijn geen sc\u00e8nes uit een sci-fi scenario. Het zijn scenario’s voorgesteld door een non -profit in Berkeley, Californi\u00eb, genaamd het AI Futures Project, dat het afgelopen jaar heeft doorgebracht om te voorspellen hoe de wereld er de komende jaren uit zal zien, omdat steeds krachtiger AI -systemen worden ontwikkeld.<\/p>\n
Het project wordt geleid door Daniel Kokotajlo, een voormalige Openai -onderzoeker die verliet het bedrijf vorig jaar<\/a> Over zijn zorgen dat het roekeloos handelde.<\/p>\n Terwijl hij in Openai, waar hij in het bestuursteam zat, schreef de heer Kokotajlo gedetailleerde interne rapporten over hoe de race voor kunstmatige algemene intelligentie, of AGI-een fuzzy term voor machine-intelligentie op menselijke machine-zich zou kunnen ontvouwen. Na het vertrek werkte hij samen met Eli Lifland, een AI -onderzoeker die een track record van nauwkeurig voorspellen<\/a> Wereldevenementen. Ze gingen aan het werk om de volgende golf van AI te voorspellen.<\/p>\n<\/div>\n<\/div>\n Het resultaat is “AI 2027”, een rapport en website Deze week uitgebracht<\/a> Dat beschrijft in een gedetailleerd fictief scenario wat er zou kunnen gebeuren als AI-systemen intelligentie op menselijke niveau overtreffen-die de auteurs in de komende twee tot drie jaar verwachten te gebeuren.<\/p>\n “We voorspellen dat AIS zal blijven verbeteren tot het punt waarop ze volledig autonome agenten zijn die beter zijn dan mensen tegen het einde van 2027 of zo,” zei de heer Kokotajlo in een recent interview.<\/p>\n Er is tegenwoordig geen tekort aan speculatie over AI. San Francisco is gegrepen door AI Fervor en de technische scene van de Bay Area is een verzameling strijdende stammen en splintersects geworden, elk overtuigd dat het weet hoe de toekomst zich zal ontvouwen.<\/p>\n Sommige AI -voorspellingen hebben de vorm aangenomen van een manifest, zoals “Machines van liefdevolle genade<\/a>‘Een essay van 14.000 woorden, vorig jaar geschreven door Dario Amodei, de chief executive van antropische, of’Situationeel bewustzijn<\/a>‘Een rapport van de voormalige Openai -onderzoeker Leopold Aschenbrenner die op grote schaal werd gelezen in beleidskringen.<\/p>\n Het People at the AI \u200b\u200bFutures -project ontwierp die van hen als een voorspellingsscenario – in wezen een stuk rigoureus onderzocht science fiction dat hun beste gissingen over de toekomst gebruikt als plotpunten. De groep besteedde bijna een jaar door met het verbeteren van honderden voorspellingen over AI, toen brachten ze een schrijver binnen – Scott Alexander, die de blog Astral Codex Ten schrijft – om hun voorspelling te helpen om te zetten in een verhaal.<\/p>\n<\/div>\n<\/div>\n “We namen wat we dachten dat zou gebeuren en probeerden het boeiend te maken,” zei de heer Lifland.<\/p>\n Critici van deze aanpak zouden kunnen beweren dat fictieve AI -verhalen beter zijn in het maken van mensen dan het opleiden van hen. En sommige AI -experts zullen ongetwijfeld bezwaar maken tegen de centrale bewering van de groep dat kunstmatige intelligentie menselijke intelligentie zal inhalen.<\/p>\n Ali Farhadi, de chief executive van het Allen Institute for Artificial Intelligence, een AI -laboratorium in Seattle, beoordeelde het rapport “AI 2027” en zei dat hij niet onder de indruk was.<\/p>\n “Ik ben helemaal voor projecties en voorspellingen, maar deze voorspelling lijkt niet gebaseerd te zijn op wetenschappelijk bewijs, of de realiteit van hoe dingen evolueren in AI,” zei hij.<\/p>\n Het lijdt geen twijfel dat sommige opvattingen van de groep extreem zijn. (Mr. Kokotajlo vertelde me bijvoorbeeld vorig jaar dat hij geloofde dat er een was 70 procent kans<\/a> dat AI de mensheid zou vernietigen of catastrofaal zou schaden.) En de heer Kokotajlo en Mr. Lifland hebben beide banden met effectief altru\u00efsme, een andere filosofische beweging die populair is bij technische werknemers <\/span>Dat maakt al jaren ernstige waarschuwingen over AI.<\/p>\n Maar het is ook vermeldenswaard dat sommige van de grootste bedrijven van Silicon Valley dat zijn Planning voor een wereld<\/a> Naast Agi, en dat veel van de gekke voorspellingen in het verleden over AI hebben gedaan-zoals de visie dat machines de Turing-test zouden doorstaan, een gedachte-experiment dat bepaalt of een machine kan lijken te communiceren als een mens-hebben uitkomen<\/a>.<\/p>\n<\/div>\n<\/div>\n