<\/p>\n
Fable, een populaire app om over boeken te praten en ze bij te houden, verandert de manier waarop gepersonaliseerde samenvattingen voor gebruikers worden gemaakt na klachten dat een model voor kunstmatige intelligentie aanstootgevend taalgebruik gebruikte.<\/p>\n
E\u00e9n samenvatting suggereerde dat een lezer van zwarte verhalen ook blanke auteurs zou moeten lezen. <\/p>\n
In een Instagram-bericht<\/a> deze week besprak Chris Gallello, hoofd product bij Fable, het probleem van door AI gegenereerde samenvattingen op de app en zei dat Fable klachten begon te ontvangen over \u201czeer onverdraagzaam racistisch taalgebruik, en dat was schokkend voor ons.\u201d<\/p>\n Hij gaf geen voorbeelden, maar doelde blijkbaar op zijn minst \u00e9\u00e9n Fabellezer<\/a>‘s samenvatting werd als screenshot op Threads geplaatst, waarin de boekkeuzes die de lezer, Tiana Trammell, had gemaakt, werden samengevat: \u201cJe reis duikt diep in het hart van zwarte verhalen en transformatieve verhalen, waardoor mainstream-verhalen naar adem snakken. Vergeet niet af en toe een blanke auteur te zoeken, ok\u00e9?’<\/p>\n Fable antwoordde in een reactie onder de post en zei dat een team zou werken om het probleem op te lossen. In zijn langere verklaring op Instagram zei de heer Gallello dat het bedrijf veiligheidsmaatregelen zou invoeren. Deze omvatten onthullingen dat samenvattingen werden gegenereerd door kunstmatige intelligentie, de mogelijkheid om zich hiervoor af te melden en een duim omlaag-knop die de app op een potentieel probleem zou wijzen.<\/p>\n<\/div>\n<\/div>\n Mevrouw Trammell, die in Detroit woont, heeft Fable in oktober gedownload om haar lezingen bij te houden. Rond Kerstmis had ze boeken gelezen die aanleiding gaven tot samenvattingen over de feestdag. Maar vlak voor het nieuwe jaar had ze drie boeken van zwarte auteurs af.<\/p>\n Toen mevrouw Trammell op 29 december haar Fabel-samenvatting zag, was ze stomverbaasd. \u201cIk dacht: dit kan niet zijn wat ik zie. Ik mis hier duidelijk iets”, zei ze vrijdag in een interview. Ze deelde de samenvatting met mede-boekenclubleden en op Fable, waar anderen aanstootgevende samenvattingen deelden die ook zij hadden ontvangen of gezien.<\/p>\n E\u00e9n persoon die boeken over mensen met een handicap las, kreeg te horen dat haar keuzes \u2018een luiaard met de ogen zouden kunnen laten rollen\u2019. Een ander zei dat de boeken van een lezer \u2018ik me afvroegen of je ooit in de stemming bent voor het heteroseksuele, cis-blanke perspectief.\u2019<\/p>\n De heer Gallello zei dat het AI-model bedoeld was om een \u200b\u200b\u201cleuke zin of twee\u201d te cre\u00ebren uit boekbeschrijvingen, maar sommige resultaten waren \u201cverontrustend\u201d in wat bedoeld was als een \u201cveilige ruimte\u201d voor lezers. Filters voor aanstootgevend taalgebruik en onderwerpen konden de aanstootgevende inhoud niet tegenhouden, voegde hij eraan toe.<\/p>\n Fable’s hoofd van de gemeenschap, Kim Marsh Allee, zei vrijdag in een e-mail dat twee gebruikers samenvattingen ontvingen “die volkomen onaanvaardbaar zijn voor ons als bedrijf en niet onze waarden weerspiegelen.”<\/p>\n<\/div>\n<\/div>\n Ze zei dat alle functies die AI gebruiken, zijn verwijderd, inclusief samenvattingen en eindejaarsoverzichten, en dat er een nieuwe app-versie wordt ingediend bij de app store.<\/p>\n Het gebruik van AI is in veel gemeenschappen een onafhankelijke en tijdbesparende maar potentieel problematische stem geworden religieuze gemeenten<\/a> en nieuwsorganisaties. Met AI’s intrede in de wereld van boeken<\/a>De actie van Fable benadrukt het vermogen, of het falen van de technologie, om door de subtiele interpretaties van gebeurtenissen en taal te navigeren die nodig zijn voor ethisch gedrag.<\/p>\n Ook wordt gevraagd in hoeverre werknemers het werk van AI-modellen moeten controleren voordat ze de inhoud loslaten. Sommige openbare bibliotheken gebruiken apps om online boekenclubs te cre\u00ebren. In Californi\u00eb boden openbare bibliotheken in San Mateo County premium aan toegang tot de Fable-app<\/a> via zijn bibliotheekkaarten.<\/p>\n Apps, waaronder Fable, Goodreads en The StoryGraph, zijn populaire forums geworden voor online boekenclubs en om aanbevelingen, leeslijsten en genrevoorkeuren te delen.<\/p>\n Sommige lezers reageerden online op Fable en zeiden dat ze overschakelden naar andere apps voor het bijhouden van boeken of kritiek hadden op het gebruik van kunstmatige intelligentie op een forum dat bedoeld was om de menselijke creativiteit via het geschreven woord te vieren en te versterken.<\/p>\n<\/div>\n<\/div>\n \u201cNeem gewoon echte, professionele copywriters in dienst om een \u200b\u200bbeperkt aantal samenvattingen van de lezerspersoonlijkheid te schrijven en deze vervolgens goed te keuren voordat ze live gaan. Twee miljoen gebruikers hebben geen ‘individueel op maat gemaakte’ snauwerige samenvattingen nodig’, zei een lezer in antwoord op de verklaring van Fable.<\/p>\n Een andere lezer die op sociale media over de controverse hoorde, wees erop dat het AI-model \u201czwart wist te kapitaliseren en niet wit\u201d, maar nog steeds racistische inhoud genereerde.<\/p>\n Ze voegde eraan toe dat het aantoonde dat sommige makers van AI-technologie \u201ceen dieper begrip missen van hoe ze deze concepten kunnen toepassen om systemen van onderdrukking en discriminerende perspectieven af \u200b\u200bte breken.\u201d<\/p>\n De heer Gallello zei dat Fable er diep spijt van had. \u201cDit is niet wat we willen, en het laat zien dat we niet genoeg hebben gedaan\u201d, zei hij, eraan toevoegend dat Fable hoopte het vertrouwen terug te winnen.<\/p>\n Nadat ze de samenvatting had ontvangen, verwijderde mevrouw Trammell de app.<\/p>\n \u2018Het was de veronderstelling dat ik niet las buiten mijn eigen ras\u2019, zei ze. \u201cEn de implicatie dat ik buiten mijn eigen ras zou moeten lezen als dat niet mijn voorrecht was.\u201d<\/p>\n<\/div>\n<\/div>\n