Dario Amodei: de ‘ideologische gek’ die met Anthropic de mensheid wil redden

De ruzie tussen Anthropic en het Witte Huis is afgelopen voorjaar hoog opgelopen, en defensieminister Pete Hegseth kan zich niet langer beheersen. De AI-ontwikkelaar verzet zich er dan al maanden tegen dat de Amerikaanse regering zijn hoogwaardige AI-model Claude gebruikt voor volledig autonome wapens en massasurveillance. Met de Iran-oorlog voor de deur is Hegseth ziedend. In de Senaat fulmineert hij dat Anthropic op de stoel van de regering is gaan zitten.

„Het is alsof Boeing ons vliegtuigen verkoopt en vervolgens dicteert op wie we wel en niet mogen schieten”, zegt Hegseth. „Laat het duidelijk zijn: Anthropic wordt gerund door een ideologische gek, die geen enkele inspraak zou mogen hebben in wat wij doen.”

Hij noemt hem niet bij naam, maar iedereen weet dat Hegseth doelt op Dario Amodei, de nerveuze AI-onderzoeker die zich in 2021 met wat bondgenoten heeft afgesplitst van ChatGPT-maker OpenAI om een eigen AI-lab te beginnen. Uit zicht van het grote publiek groeide Anthropic sindsdien snel uit tot één van de machtigste bedrijven ter wereld. Dat is te danken aan zijn AI-modellen, die behoren tot de beste ter wereld. Ze krijgen daardoor in steeds meer levens en bedrijven een groeiende verantwoordelijkheid. Ook op het gebied van oorlogsvoering.

Wie is Amodei, hoe kwam hij ”op de stoel van de regering” terecht, en wat beweegt de man die volgens sommigen een „nieuwe God” aan het bouwen is?

Moreel kompas van zijn ouders

Dario Amodei (1983) is geboren op de plek waar de toekomst eigenlijk al decennialang wordt bedacht: San Francisco. Zonder het internettijdperk dat in Amodeis jonge jaren op die plek vorm kreeg, had Hegseth zich mogelijk nooit boos over hem gemaakt. Zonder de enorme hoeveelheden trainingsdata die dankzij het internet makkelijk geoogst werden, hadden AI-bots als ChatGPT en Claude immers nooit kunnen worden wat ze nu zijn.

Zijn vader is een Italiaanse leerbewerker, zijn Joodse moeder een projectmanager uit Chicago. Ze krijgen ook een dochter: Daniela Amodei (1987). Zij is nu de president van Anthropic, en meer dan haar broer verantwoordelijk voor de dagelijkse bedrijfsvoering. De spaarzame verhalen die Dario en Daniela de afgelopen jaren vertelden over hun familie, draaiden vaak om moraliteit. Daniela vertelt in het tijdschrift Time dat hun oma zich in de jaren dertig vastketende aan de Italiaanse ambassade in Chicago, om te protesteren tegen de Italiaanse invasie in Ethiopië. Dario dankt zijn moreel kompas en zijn „sterke verantwoordelijkheidsgevoel” aan zijn ouders, schrijft techjournalist Alex Kantrowitz op het platform Medium.

Op zijn negentiende organiseert Dario Amodei, dan natuurkundestudent aan Caltech, op de campus van deze prestigieuze technische universiteit in Californië protesten tegen de dreigende invasie in Irak. Blijkbaar komen daar niet veel mensen bij opdagen, want in 2003 schrijft hij een artikel in de universiteitskrant waarin hij zijn ongenoegen uit over de gelatenheid van zijn „apathische” medestudenten. Hij doet een moreel appèl: „We mogen onszelf nooit laten reduceren tot amorele technici, die de oorlogsmachines net zo achteloos bedienen als dat we onze berekeningen uitvoeren.”

Technologische doorbraken als panacee

In 2006 komt Amodeis leven op z’n kop te staan. Zijn vader overlijdt na een lang ziekbed aan chronische hepatitis C. Extra wrang is dat die ziekte vier jaar later hoogstwaarschijnlijk te genezen was geweest – wetenschappers hadden een geneesmiddel gevonden. „Blijkbaar wás er iemand bezig deze ziekte te genezen om levens te redden”, zegt hij tegen Kantrowitz. „Maar er hadden meer mensen gered kunnen worden.”

Na de dood van zijn vader stapt Amodei over van de biofysica naar kunstmatige intelligentie. Hij is in die periode vastbesloten medisch-wetenschappelijke doorbraken te helpen forceren, maar raakt ervan overtuigd dat technologische doorbraken nodig zijn om dat zo snel mogelijk te doen. Amodei heeft háást. In kunstmatige intelligentie ziet hij de meeste potentie om zijn missie te volbrengen: als AI beter wordt, zou je er weleens wetenschappelijk onderzoek mee kunnen automatiseren, denkt hij. Doorbraken komen dan vanzelf. Dat inzicht vormt zich in een periode van nieuwe, hoopvolle ontwikkelingen in de AI-onderzoekswereld.

Bij een in de VS gevestigd onderzoekslab van de Chinese zoekmachinegigant Baidu krijgt Amodei in 2014 zijn eerste kans in de AI-wereld. Gregory Diamos maakte destijds deel uit van de sollicitatiecommissie en deed zijn best om de twijfel bij collega’s over Amodei weg te nemen, zegt hij tegen NRC. „Hij had geen achtergrond in AI.” Wat de doorslag gaf, was zijn code. „Het was zo’n beetje de best geschreven software die ik ooit had gezien. Tegen de anderen heb ik gezegd dat wie zulke ingewikkelde software foutloos kan schrijven, ook wel kan uitvogelen waar wij mee bezig zijn.”

Amodei blijkt een obsessieve werker. Diamos herinnert zich dat hij op een ochtend op zijn werk aankwam en dat Amodei daar zat, met een tafel vol papers, zijn krullen in de war. Hij had die nacht nauwelijks geslapen. „Hij sliep vaker op kantoor. Velen van ons waren gepassioneerd, maar Dario tilde het naar een ander niveau”, zegt Diamos.

Bij Baidu, dat dan aan spraakherkenningstechnologie werkt, leert Amodei iets wat hij zijn hele loopbaan zou meenemen. Hij komt erachter dat de technologie stukken beter wordt door de AI-modellen op te schalen: meer data, meer rekenkracht, langer trainen. Voor Amodei bewijst dit dat er geen ‘fundamentele muur’ is; AI die de mens op vrijwel elk terrein evenaart of overtreft is geen fantasie, maar een kwestie van schaal, en dus van tijd. „We kunnen straks ongelooflijk uiteenlopende cognitieve taken uitvoeren als we AI-modellen groter maken”, vat hij het jaren later samen in een podcast van Lex Fridman. Die overtuiging – en de kennis om modellen te bouwen – neemt hij mee naar OpenAI, en daarna naar Anthropic.

Zoom in

Doorbraken en vervreemding bij OpenAI

Als Sam Altman, Elon Musk en anderen in 2015 OpenAI oprichten, dan nog een AI-onderzoeksinstelling zonder winstoogmerk, willen ze de beste onderzoekers uit het veld binnenhalen. Ze komen al snel uit bij Dario Amodei, die in zijn korte tijd bij Baidu en daarna Google naam heeft gemaakt met enkele veelgeciteerde publicaties over AI.

Amodei maakt in 2016 de overstap. Bij OpenAI groeit hij uit tot een drijvende kracht achter de ontwikkeling van GPT-2 en GPT-3, voorlopers van ChatGPT. Bij OpenAI wordt zijn vermoeden bevestigd: niet alleen spraakherkenningssystemen worden exponentieel beter door schaalvergroting; het principe geldt voor taalmodellen in het algemeen. GPT-3 zet OpenAI in 2020 op de kaart in de wereld van technologie-enthousiastelingen. Het kan feiten oprakelen, redelijk samenhangende essays schrijven en zelfs coderen. „Het heeft een zekere emergente kwaliteit”, zegt Amodei, dan vicepresident van de onderzoeksafdeling, tegen The New York Times. „Het kan de patronen die je het geeft herkennen en het verhaal afmaken, of ergens nog een voorbeeld van geven.”

Intussen twijfelt Amodei of OpenAI nog de juiste plek voor hem is. Hoe beter hij taalmodellen ziet worden, hoe groter zijn zorg over wat ze kunnen aanrichten: wat als ze verkeerd worden ontwikkeld, of in verkeerde handen vallen? Anderen binnen OpenAI zien vooral commerciële kansen. Achter zijn rug om werken zij aan plannen om er geld mee te verdienen, schrijft techjournalist Karen Hao in haar bestseller Empire of AI. Topman Altman probeert beide kampen tevreden te stellen: de opbrengsten, belooft hij, vloeien terug in veiligheidsonderzoek.

Maar uiteindelijk trekken Amodei en co, onder wie zijn zus Daniela, die in 2018 ook bij OpenAI ging werken, aan het kortste eind, schrijft Hao. OpenAI stelt GPT-3, dat dan nog volop racistische stereotypes reproduceert, tegen betaling beschikbaar aan een steeds groter publiek. Eind 2020 vertrekken de Amodeis bij OpenAI.

‘De scheiding’, zoals het vertrek van Dario en Daniela Amodei en anderen soms wordt genoemd, was het gevolg van fundamentele meningsverschillen over hoe je AI op een verantwoorde manier ontwikkelt. Maar dat is niet het enige, schrijft Hao. „Het ging ook over macht. Dario Amodei mocht zijn handelen laten bepalen door zijn principes en de wens afstand te nemen van Sam Altman, hij wilde ook meer invloed op de ontwikkeling van AI. Zodat hij die naar zijn eigen waarden en overtuigingen kon vormgeven.”

Gregory Diamos ondersteunt die lezing – hij sprak hem rond diens vertrek. Amodei deed een groot deel van het technische werk voor GPT-3, weet hij, „maar als je kijkt naar de verdeling van de macht binnen OpenAI, dan werd hem geen eerlijk aandeel gegund”.

Alternatief voor roekeloze concurrenten

Van meet af aan profileert Amodei Anthropic, dat hij begin 2021 opricht, als het morele, veilige alternatief voor het roekeloze OpenAI. Om chatbot Claude zo eloquent mogelijk te maken, traint Anthropic die met boeken, véél boeken. Onder de verhullende noemer Project Panama downloadt Anthropic boeken uit een illegale digitale database. Heimelijk vult het ook een warenhuis met miljoenen fysieke boeken, waarvan de kaften worden losgesneden om ze makkelijker te kunnen scannen.

Amodei weet inmiddels als geen ander welke ingrediënten hij nodig heeft voor een goed AI-model: véél data, liefst van zo hoog mogelijke kwaliteit, en veel rekenkracht. Bij OpenAI heeft hij bovendien geleerd dat je zo’n model kunt leren programmeren. Claude is dan ook snel af, en blinkt meteen uit in twee dingen: coherente, boekachtige taal en uitstekende code. Toch brengt Anthropic het pas op de markt nadat OpenAI eind 2022 ChatGPT lanceert. „We wilden geen wedloop beginnen”, zei Amodei dit jaar in een podcast van de Indiase ondernemer Nikhil Kamath. „Toen iemand anders begon, hebben we gezegd: nu is de race van start gegaan.”

Het effectief altruïsme (EA), een ideologische stroming die rond de oprichting van OpenAI in zwang raakte in de AI-wereld, heeft inmiddels ook de Amodeis overtuigd. Effectief altruïsten willen maximaal goed doen en zien het kapitalisme als een middel om hun doelen te bereiken: hoe meer geld je verdient, hoe meer goeds je daarmee kunt doen, is de gedachte. Naast verbetering van de wereldgezondheid, rekenen ze ook bestrijding van existentiële risico’s voor de mensheid tot hun doelen. De Amodeis raken persoonlijk bij de stroming betrokken. Daniela Amodei is getrouwd met Holden Karnofsky, één van de grondleggers van de EA-beweging; Dario en zij woonden zelfs kort samen met een groepje effectief altruïsten, aldus The New York Times.

Wie de essays leest die Amodei de afgelopen jaren schreef, zal verschillende EA-principes herkennen. In Machines of Loving Grace (2024) droomt hij over AI-systemen die een eind maken aan allerlei ziektes, economische groei aanjagen in ontwikkelingslanden en klimaatverandering helpen tegengaan. Maar Amodei vergaart ook bekendheid door de extreme doemscenario’s waar hij hardop over filosofeert. Hij is bang dat AI-modellen uiteindelijk niet leren handelen in lijn met menselijke belangen, en daardoor, als ze zo krachtig worden als hij wil, een gevaar kunnen vormen voor de mensheid. Hij waarschuwt ook voor de massale werkloosheid die AI kan veroorzaken.

Niet zo verschillend

Wat blijft wringen, is dat Amodei de AI-wedloop aanjaagt en tegelijkertijd probeert te rechtvaardigen dat bedrijven als Anthropic daar overvloedig natuurlijke hulpbronnen voor aanwenden, en volop andermans kennis en creativiteit aftappen. In Machines of Loving Grace schetst hij wat de mensheid wacht als we hem vertrouwen: een „gecomprimeerde 21ste eeuw” waarin ziektes worden uitgeroeid en de levensduur wordt verdubbeld. Zo maakt hij van snelle AI-ontwikkeling bijna een maatschappelijke verantwoordelijkheid — elke maand die verloren gaat, overlijden er mensen zoals zijn vader.

In haar boek komt Hao tot de conclusie dat Anthropic met de jaren meer op OpenAI is gaan lijken. „Ze verschillen van stijl, niet van inhoud.” Terwijl Amodei een grens trok bij het Pentagon, was Claude allang geïntegreerd in het Maven Smart-systeem van het bedrijf Palantir, waarmee het Amerikaanse leger doelwitten selecteert en vreemdelingendienst ICE migranten opspoort. Uiteindelijk zou Amodei ook zeggen dat hij niet categorisch tegen het gebruik van Claude voor autonome wapens is, maar dat Anthropics technologie daar nú nog niet klaar voor is.

Geef cadeau





Deel





Mail de redactie