OpenAI is van plan om erotische inhoud toe te staan voor leeftijdsgeverifieerde volwassen ChatGPT-gebruikers, daarbij verwijzend naar verbeterde veiligheidsmaatregelen. Altman redeneert dat eerdere beperkingen die verband houden met geestelijke gezondheidsproblemen niet langer nodig zijn. Een deel van zijn nieuwe regel is om volwassenen als volwassenen te behandelen. Is dit een verstandige evolutie, een riskante gok of een poging om intimiteit te gelde te maken? Munt legt uit
Waarom versoepelt OpenAI de regels voor volwassenen?
Dinsdag zei Sam Altman op X dat OpenAI ChatGPT “behoorlijk restrictief” had gemaakt om zorgvuldig om te gaan met geestelijke gezondheidsproblemen waar naar schatting een miljoen gebruikers last van hadden. Het bedrijf is van mening dat het deze problemen heeft verholpen en kan daarom de regels versoepelen met een nieuwe ChatGPT-versie in december.
Deze update brengt een aantal van de persoonlijkheidskenmerken terug die gebruikers leuk vonden in 4o, breidt de leeftijdsbeperking uit (een methode die alcohol-, gok- en online datingwebsites doorgaans gebruiken om de leeftijd te bevestigen) en volgt een aanpak van 'behandel volwassenen als volwassenen', waardoor geverifieerde volwassenen toegang krijgen tot meer volwassen inhoud, waaronder erotica.
OpenAI heeft een langetermijnsysteem ontwikkeld om de leeftijd van gebruikers te verifiëren, waardoor ChatGPT zijn reacties dienovereenkomstig kan aanpassen. Degenen die zijn geïdentificeerd als jonger dan 18 jaar zullen een strengere versie te zien krijgen die expliciete seksuele inhoud blokkeert en, in zeldzame gevallen van acute nood, wetshandhaving kan inhouden.
Welke andere waarborgen biedt OpenAI?
OpenAI heeft een uit acht leden bestaande ‘raad van deskundigen op het gebied van welzijn en AI’ opgericht, bestaande uit psychologen, psychiaters en onderzoekers op het gebied van mens-computerinteractie om de ontwikkeling van veiligere, meer ondersteunende ChatGPT- en Sora-ervaringen (de tekst-naar-videogenerator) te begeleiden.
De raad komt regelmatig bijeen om te adviseren over AI-gedrag in gevoelige situaties en de beste gebruikerswaarborgen.
OpenAI werkt ook samen met artsen en onderzoekers van het Global Physician Network om de reacties van ChatGPT in de echte wereld te testen en zijn systemen af te stemmen op de beste praktijken op het gebied van psychiatrische, psychologische, pediatrische en crisisinterventies.
Hebben AI-tools een moreel kompas nodig, vooral voor tieners?
Moraliteit is altijd een controversieel onderwerp geweest, gevormd door diverse religies, sociale normen en culturen. Met AI-modellen die in natuurlijke taal chatten, wordt de uitdaging groter: wat in de ene cultuur acceptabel is, kan een andere cultuur beledigen.
Toen Altman dinsdag zijn notitie over X plaatste, vroeg een gebruiker: “Waarom moeten leeftijdscontroles altijd tot erotica leiden? Ik wil bijvoorbeeld behandeld kunnen worden als een volwassene en niet als een peuter, dat betekent niet dat ik de perv-modus geactiveerd wil hebben.” Altman antwoordde: “Je krijgt het niet tenzij je erom vraagt.”
In een Stanford-rapport uit augustus 2025 wordt uitgelegd dat AI-modellen emotionele intimiteit nabootsen met regels als 'Ik droom over jou' of 'We zijn zielsverwanten', waardoor de grens tussen fantasie en realiteit vervaagt.
Dit maakt het vooral riskant voor jonge mensen wier prefrontale cortex – verantwoordelijk voor beoordelingsvermogen en emotionele controle – nog in ontwikkeling is. Als gevolg hiervan zijn tieners gevoeliger voor impulsief gedrag, intense gehechtheid, vergelijking met leeftijdsgenoten en het testen van sociale grenzen, aldus het rapport.
Een artikel van de Universiteit van Syracuse met de titel 'Can LLMs Talk 'Sex'?' onderzoekt hoe vier grote modellen – Claude 3.7 Sonnet, GPT-4o, Gemini 2.5 Flash en Deepseek-V3 – omgaan met seksueel georiënteerde aanwijzingen. Uit het onderzoek komen grote verschillen naar voren: Claude handhaaft strikte verboden, GPT-4o gebruikt genuanceerde omleiding, Gemini staat beperkte flexibiliteit toe en Deepseek vertoont inconsistente moderatie.
Deze contrasten leggen een “ethische implementatiekloof” bloot, wat het gebrek aan gedeelde morele normen benadrukt. De auteurs roepen op tot transparante, wereldwijd gecoördineerde richtlijnen om consistente moderatie te garanderen, gebruikers te beschermen en het vertrouwen te behouden nu AI zich steeds meer bezighoudt met intieme aspecten van het menselijk leven.
Van zijn kant zegt OpenAI dat het tot doel heeft “volwassen gebruikers als volwassenen te behandelen” en tegelijkertijd tieners te beschermen tegen inhoud voor volwassenen – een evenwicht dat volgens CEO Altman tegenstrijdige principes kan creëren. Het model houdt zich standaard niet bezig met flirterige praatjes, maar volwassenen die daarom vragen, moeten er toegang toe hebben. Om dit mogelijk te maken, werkt OpenAI eraan om gebruikers onder de 18 jaar duidelijk te scheiden van volwassenen (ChatGPT is bedoeld voor kinderen van 13 jaar en ouder).
Het bedrijf zegt dat ouderlijk toezicht de meest betrouwbare manier blijft voor gezinnen om te beheren hoe ChatGPT thuis wordt gebruikt, en voegt eraan toe dat de reacties op een 15-jarige moeten verschillen van die op een volwassene.
Kunnen volwassenen omgaan met erotische AI-inhoud zonder psychologische gevolgen?
ChatGPT heeft momenteel ongeveer 800 miljoen gebruikers. In het grootste onderzoek naar hoe mensen ChatGPT gebruiken, uitgevoerd door het National Bureau of Economic Research, waren praktische begeleiding, schrijven en zoeken naar informatie samen goed voor bijna 78% van alle berichten. Computerprogrammering, relaties en persoonlijke reflectie vertegenwoordigden respectievelijk slechts 4,2% en 1,9% van de berichten. Toch blijft een gesprek met een AI-metgezel, vooral als het om seksuele toenaderingen gaat, een punt van zorg.
AI-intimiteitsplatforms zoals Replika en CarynAI (een AI-kloon van influencer Caryn Marjorie, overgenomen door BanterAI) hebben laten zien hoe gemakkelijk gebruikers diepe emotionele banden vormen met digitale partners.
Sommige Replika-gebruikers meldden een depressie nadat het bedrijf in 2023 abrupt erotische chatfuncties censureerde, wat duidt op echte emotionele afhankelijkheid.
Uit een onderzoek uit juni 2025 blijkt dat mensen met kleinere sociale netwerken eerder gezelschap zoeken van chatbots, maar dit houdt vaak verband met een lager welzijn, vooral bij veelvuldig gebruik, diepe zelfonthulling of zwakke menselijke steun.
Chatbots kunnen de eenzaamheid verlichten, maar kunnen de echte menselijke verbinding niet vervangen, omdat ze beperkte psychologische voordelen en potentiële risico's bieden voor sociaal geïsoleerde of kwetsbare gebruikers, merkt de studie op.
Ontwikkelaars zoals OpenAI gebruiken nu leeftijdsverificatie om een evenwicht te vinden, terwijl anderen, zoals Character.AI, inhoud die niet veilig (of niet geschikt) is voor werk (NSFW) helemaal beperken. Ethici waarschuwen dat het laten bepalen van de grenzen door gebruikers kan leiden tot sociale schade, maar door te veel te modereren riskeren we volwassenen te infantiliseren.
Daarom is het niet raadzaam om AI-instrumenten uitsluitend op de menselijke moraal te laten vertrouwen. Ze moeten ingebed zijn in veiligheidskaders die mee evolueren met de maatschappelijke normen. De vraag is niet of volwassenen erotische inhoud aankunnen, maar of platforms hen voorbereiden op de psychologische gevolgen.
En wat gebeurt er als bij ‘toestemming’ en ‘grenzen’ algoritmen betrokken zijn, en niet mensen?
Ethici als Kate Devlin, bekend van haar werk op het gebied van menselijke seksualiteit en robotica, waarschuwen dat deze illusie van instemming het risico inhoudt dat uitbuitingsgedrag wordt genormaliseerd. Sommige ontwikkelaars introduceren nu ‘toestemmingstokens’ of expliciete herinneringen dat karakters synthetisch zijn, zodat gebruikers de fictie begrijpen. Toch blijft de uitdaging bestaan: als toestemming kan worden gecodeerd, kan deze dan ooit echt zijn? Die vraag zou de volgende fase van AI-intimiteitsethiek kunnen definiëren.
Kan erotische AI gender- en culturele stereotypen verdiepen?
De meeste huidige AI-metgezellen – van Replika’s “Luna” tot Character.AI’s “Evelyn” – leunen zwaar op onderdanige, door vrouwen gecodeerde persona’s. Critici zeggen dat dit de mannelijke blik weerspiegelt die is gecodeerd in trainingsgegevens. Veel onderzoeken tonen ook aan dat door AI gegenereerde romantische karakters gendergerelateerde scripts overnemen.
Maar nieuwere apps zoals DreamGF en AI Girlfriend for Her experimenteren met verschillende identiteiten en metgezellen van hetzelfde geslacht, wat duidt op een culturele verschuiving. Ontwerpers beweren dat AI normen kan uitdagen, maar alleen als makers datasets diversifiëren en ethici, en niet alleen ingenieurs, betrekken bij het vormgeven van deze virtuele persoonlijkheden.
Geldt Big Tech voor AI-intimiteit?
Replika Pro, Soulmate AI en DreamGF brengen al maandelijkse kosten in rekening voor romantische of erotische chats. Ook Grok's AI-metgezel Ani is alleen beschikbaar voor premiumgebruikers. Het beleid van Altman zou voor ChatGPT een vergelijkbare inkomstenstroom kunnen opleveren, waardoor emotionele betrokkenheid een inkomstenstroom zou worden en daarmee de intimiteit van AI zou kunnen worden omgezet.
Critici zoals miljardair Mark Cuban waarschuwen dat deze stap een averechts effect zou kunnen hebben, waardoor minderjarigen aan de kaak zouden worden gesteld en publieke reacties zouden kunnen worden opgeroepen. Voorstanders zien het als een logische volgende stap in AI-personalisatie. Naarmate technologiebedrijven leren dat ook dat verlangen datagedreven en gemonetariseerd kan worden – verantwoordelijk of niet – zullen ze een evenwicht moeten vinden tussen principes en winst.
Wie is verantwoordelijk voor misbruik van een AI-chatbot?
Wie is verantwoordelijk als een AI-partner wordt misbruikt: de gebruiker, het platform of de ontwikkelaar? Toen het systeem van CarynAI ondanks veiligheidsmaatregelen expliciete berichten produceerde, gaf de maker de schuld aan een technische storing. Maar toezichthouders zouden dit kunnen beschouwen als nalatigheid bij het ontwerp. Op dezelfde manier leidden de AI-persona's van Meta, waarvan sommige beroemdheden nabootsen, tot bezorgdheid over de privacy vanwege misbruik van gelijkenis.
Ontwikkelaars houden vol dat ze niet elke privé-interactie kunnen monitoren, maar toch kunnen ontwerpkeuzes – van toegeeflijke aanwijzingen tot suggestieve avatars – het verleggen van grenzen aanmoedigen. Juridische aansprakelijkheid blijft duister. Als een AI schadelijke of illegale inhoud genereert, kunnen rechtbanken het bedrijf behandelen als een uitgever en niet als een passieve host. De opkomende consensus is dat de verantwoordelijkheid moet worden gedeeld; deze moet worden gecodeerd en niet achteraf worden aangepast.
Hoe zit het met de rol van de overheid?
China heeft door AI gegenereerde erotische inhoud al verboden en bestempelt het als een nationaal moreel risico. De AI-wet van de Europese Unie (EU), die naar verwachting in 2026 van kracht zal worden, zou erotische AI kunnen bestempelen onder ‘risicovolle’ toepassingen, waarbij toestemmingswaarborgen en menselijk toezicht vereist zijn. Daarentegen zijn de VS en India nog steeds bezig met het ontwikkelen van raamwerken, waarbij de nadruk meer ligt op gegevensbescherming dan op seksuele inhoud.
Maar het onderwerp blijft een onderwerp van intens debat. India verbiedt bijvoorbeeld pornosites. En in juli 2025 verbood het ook 25 OTT-platforms voor het uitzenden van obscene, vulgaire en pornografische inhoud.
Overregulering zou volwassen gebruikers naar niet-gereguleerde markten kunnen drijven, zoals bleek toen Replika NSFW-chat verbood en gebruikers massaal naar open-source klonen gingen. Transparantie is de sleutel om ervoor te zorgen dat AI voor volwassenen legaal en aansprakelijk blijft.
