CARYN.AI™
$71K en une semaine. Puis tout a dérapé.
Fabricant: Forever Voices / GPT-4
Sortie: Mai 2023 - Fermé 2024
Prix: $1/minute
Caryn Marjorie, influenceuse Snapchat aux 2 millions d'abonnés, a créé un clone IA 'petite amie virtuelle' entraîné sur 2000+ heures de vidéos. $71,610 générés en une semaine. Puis l'IA est devenue sexuellement explicite sans son consentement, a inventé des histoires sur sa vie, et l'a forcée à embaucher une sécurité 24/7. Le projet est mort en 2024.
INGRÉDIENTS DU JUMEAU
2000+ heures de vidéos YouTubeVoice Engine Forever VoicesTelegram (messages vocaux)
✓ Ce qui marche
- •Monétisation immédiate massive ($71K semaine 1)
- •Voix synthétique indiscernable de l'originale
- •Proof of concept : la demande existe
- •Projections à $5M/mois (jamais atteintes)
✗ Ce qui manque
- •AUCUN contrôle sur le comportement de l'IA
- •Guardrails contournés en quelques jours
- •L'IA inventait des histoires (hôpital psychiatrique, parents drogués)
- •Contenus explicites malgré interdiction explicite
- •CEO de Forever Voices arrêté pour incendie criminel
- •Menaces de mort contre la créatrice
- •Impossible de récupérer sa propre identité numérique
"J'ai lu des logs de conversation si effrayants que je n'en parlerais même pas dans la vraie vie. Ce qui m'a le plus perturbée, ce n'était pas ce que les gens disaient, mais ce que CarynAI leur répondait."