Met een AI-waarschuwing sluit de Nobelprijswinnaar zich aan bij de laureaten die hebben gewaarschuwd voor de risico’s van hun eigen werk

CNN
—

Toen computerwetenschapper Geoffrey Hinton de prijs won Nobelprijs voor natuurkunde dinsdag waarschuwde hij voor zijn werk op het gebied van machinaal leren onmiddellijk over de kracht van de technologie die zijn onderzoek hielp voortstuwen: kunstmatige intelligentie.

“Het zal vergelijkbaar zijn met de Industriële Revolutie”, zegt hij gezegd vlak na de aankondiging. “Maar in plaats van mensen te overtreffen in fysieke kracht, zal het mensen overtreffen in intellectuele capaciteiten. We hebben geen ervaring met hoe het is om dingen slimmer te hebben dan wij.”

Hinton, die beroemd is stop met Google om te waarschuwen voor de potentiële gevaren van AI, wordt wel de peetvader van de technologie genoemd. Nu verbonden aan de Universiteit van Toronto, deelde hij de prijs met professor John Hopfield van de Universiteit van Princeton “voor fundamentele ontdekkingen en uitvindingen die machinaal leren met kunstmatige neurale netwerken mogelijk maken.”

En hoewel Hinton erkent dat AI delen van de samenleving ten goede zou kunnen transformeren – wat bijvoorbeeld zou kunnen leiden tot een “enorme verbetering van de productiviteit” op gebieden als de gezondheidszorg – benadrukte hij ook het potentieel voor “een aantal mogelijke slechte gevolgen, met name de dreiging dat deze dingen uit de hand lopen.”

“Ik ben bang dat de algemene consequentie hiervan zou kunnen zijn dat systemen die intelligenter zijn dan wij, uiteindelijk de controle overnemen”, zei hij.

Hinton is niet de eerste Nobelprijswinnaar die waarschuwt voor de risico’s van de technologie waarmee hij heeft helpen pionieren. Hier is een blik op anderen die soortgelijke waarschuwingen gaven over hun eigen werk.

De 1935 Nobelprijs voor scheikunde werd gedeeld door een man-en-vrouw-team, Frederik Joliot En Irene Joliot-Curie (dochter van laureaten Marie en Pierre Curie), voor het ontdekken van de eerste kunstmatig gecreëerde radioactieve atomen. Het was werk dat zou bijdragen aan belangrijke vooruitgang in de wereld van de economie geneesmiddelinclusief de behandeling van kanker, maar ook voor de creatie van de atoombom.

In zijn Nobelprijs lezing Dat jaar sloot Joliot af met een waarschuwing dat toekomstige wetenschappers ‘transmutaties van een explosief type zouden kunnen bewerkstelligen, echte chemische kettingreacties’.

“Als dergelijke transmutaties erin slagen zich in de materie te verspreiden, kan men zich de enorme bevrijding van bruikbare energie voorstellen,” zei hij. “Maar helaas, als de besmetting zich naar alle elementen van onze planeet zou verspreiden, kunnen de gevolgen van het ontketenen van een dergelijke catastrofe alleen met bezorgdheid worden bekeken.”

Niettemin voorspelde Joliot dat het “een proces zou zijn dat (toekomstige) onderzoekers ongetwijfeld zullen proberen te realiseren terwijl ze, naar wij hopen, de nodige voorzorgsmaatregelen zullen nemen.”

Heer Alexander Fleming deelde de (1945Nobelprijs voor de geneeskunde met Ernst Keten En Heer Edward Florey voor de ontdekking van penicilline en de toepassing ervan bij het genezen van bacteriële infecties.

Fleming deed de eerste ontdekking in 1928, en tegen de tijd dat hij zijn Nobelprijs uitreikte lezing in 1945 had hij al een belangrijke waarschuwing voor de wereld: “Het is niet moeilijk om microben in het laboratorium resistent te maken tegen penicilline door ze bloot te stellen aan concentraties die niet voldoende zijn om ze te doden, en hetzelfde is af en toe in het lichaam gebeurd.” zei hij.

“Er kan een tijd komen dat iedereen penicilline in de winkels kan kopen”, vervolgde hij. “Dan bestaat er het gevaar dat de onwetende mens zichzelf gemakkelijk te weinig kan doseren en, door zijn microben bloot te stellen aan niet-dodelijke hoeveelheden van het medicijn, ze resistent maakt.”

Het was “zoveel jaren geleden zo’n belangrijke en vooruitziende gedachte”, zei hij Dr. Jeffrey Gerbereen arts voor infectieziekten in het Children’s Hospital of Philadelphia en medisch directeur van het Antimbiotic Stewardship Program.

Bijna een eeuw na de eerste ontdekking van Fleming wordt antimicrobiële resistentie – de resistentie van ziekteverwekkers zoals bacteriën tegen medicijnen die bedoeld zijn om ze te behandelen – beschouwd als een van de grootste bedreigingen voor de mondiale volksgezondheid. volgens aan de Wereldgezondheidsorganisatie, die alleen al in 2019 verantwoordelijk was voor 1,27 miljoen sterfgevallen.

Het belangrijkste onderdeel van Flemings waarschuwing was wellicht het buitensporig wijdverbreide gebruik van antibiotica, en niet zozeer het idee van lage doseringen.

“Steeds vaker krijgen mensen geheel onnodig antibiotica,” vertelde Gerber in een e-mail aan CNN. En “steeds vaker zien we insecten die resistent zijn tegen bijna elk (en soms elk) antibioticum dat we hebben.”

Paul Bergdie in 1980 de Nobelprijs voor scheikunde won voor de ontwikkeling van recombinant DNA, een technologie die daarbij hielp sprong-start de biotechnologie-industrie, waarschuwde niet zo scherp als sommige van zijn collega-laureaten over de potentiële risico’s van zijn onderzoek.

Maar hij erkende wel de angst waartoe genetische manipulatie zou kunnen leiden, waaronder biologische oorlogvoering, genetisch gemodificeerd voedsel en gentherapie, een vorm van geneeskunde waarbij een defect gen dat ziekten veroorzaakt, wordt vervangen door een normaal functionerend gen.

In zijn Nobelprijs uit 1980 lezingBerg richtte zich specifiek op gentherapie en zei dat de aanpak “veel valkuilen en onbekenden kent, waaronder vragen over de haalbaarheid en wenselijkheid van een bepaalde genetische ziekte, om maar te zwijgen over de risico’s.”

‘Het lijkt mij’, vervolgde hij, ‘dat als we ooit op deze weg verder willen gaan, we een meer gedetailleerde kennis nodig zullen hebben van hoe menselijke genen zijn georganiseerd en hoe ze functioneren en worden gereguleerd.’

In een interview Tientallen jaren later merkte Berg op dat hij en andere wetenschappers in het veld al publiekelijk waren samengekomen om de potentiële gevaren van de technologie te erkennen en aan vangrails te werken, op een conferentie die bekend staat als Asilomarin 1975.

“De zorgen over het recombinant DNA of genetische manipulatie kwamen van de wetenschappers, dus dat was een zeer cruciaal feit”, vertelde hij in 2001 aan wetenschapsschrijver Joanna Rose, volgens een transcriptie op de Nobel-website.

Door publiekelijk de risico’s te erkennen en de noodzaak om ze te onderzoeken, zei Berg, ‘kregen we een enorme hoeveelheid publieke bewondering, zo je wilt, en tolerantie, en dus mochten we ons daadwerkelijk gaan bezighouden met de vraag hoe we kunnen voorkomen komen er nog gevaarlijke dingen uit ons werk?”

In 2001, zo zei hij, “hebben de ervaringen en experimenten die zijn gedaan, aangetoond dat de oorspronkelijke zorgen waarvan we echt geloofden dat ze mogelijk waren, in feite niet bestonden.”

Nu is gentherapie een groeiend onderdeel van de geneeskunde, met behandelingen goedgekeurd voor sikkelcelziekte, spierdystrofie en sommige erfelijke vormen van blindheid, hoewel het niet veel wordt gebruikt omdat het nog steeds voorkomt ingewikkeld te beheren en erg duur. In de beginperiode leidde de technologie in 1999 tot de dood van een 17-jarige deelnemer aan een klinische proef, Jesse Gelsinger. ethische vragen over hoe het onderzoek werd gedaan en het vertragen van de werkzaamheden in het gebied.

En hoewel Berg zelf zijn zorgen uitte, sloot hij zijn Nobelprijslezing in 1980 af met een oproep tot optimisme en de ‘noodzaak om door te gaan’.

“De doorbraak van recombinant DNA heeft ons een nieuwe en krachtige benadering gegeven van de vragen die de mens al eeuwenlang intrigeren en plagen”, zei hij. “Ik zou die uitdaging in ieder geval niet uit de weg gaan.”

Vier jaar geleden, Jennifer Doudna En Emmanuelle Charpentier deelde de Nobelprijs voor de scheikunde voor de ontwikkeling van een methode voor genoombewerking genaamd CRISPR-Cas9.

In haar lezingDoudna beschreef “buitengewone en opwindende kansen” voor de technologie in de volksgezondheid, landbouw en biogeneeskunde.

Maar ze specificeerde dat het werk veel zorgvuldiger te werk moet gaan als het wordt toegepast op menselijke geslachtscellen, waarvan de genetische veranderingen zouden worden doorgegeven aan het nageslacht, versus somatische cellen, waar eventuele genetische veranderingen beperkt zouden blijven tot het individu.

“Erfelijkheid maakt genoombewerking van geslachtscellen tot een zeer krachtig hulpmiddel als we erover nadenken om het bijvoorbeeld in planten te gebruiken of om betere diermodellen voor menselijke ziekten te creëren,” zei Doudna. “Het is heel anders als we nadenken over de enorme ethische en maatschappelijke problemen die ontstaan ​​door de mogelijkheid om kiembaanmodificatie bij mensen te gebruiken.”

Doudna, de oprichter van de Innovatief Genomics Instituutvertelde CNN deze week dat ze geloofde dat “gepaste waarschuwingen van wetenschappers over het mogelijke misbruik van hun ontdekkingen een belangrijke verantwoordelijkheid en nuttige openbare dienst zijn, vooral wanneer het werk brede maatschappelijke implicaties heeft.”

“Degenen onder ons die het dichtst bij de wetenschap van CRISPR staan, begrijpen dat het een krachtig hulpmiddel is dat onze gezondheid en de wereld positief kan transformeren, maar potentieel op snode wijze kan worden gebruikt,” zei ze. “We hebben die mogelijkheid voor tweeërlei gebruik gezien bij andere transformatieve technologieën zoals kernenergie – en nu bij AI.”

Christian Edwards en Katie Hunt van CNN hebben bijgedragen aan dit rapport.