💔 #172: Han ville träffa sin chattbot i himlen
30+ trender och fenomen som formar framtiden – och en hemlig länk.
Äntligen fredag! Tack för att du vill spendera den med mig. Veckans toppstory handlar om ett känsligt ämne som kan vara svårt att ta in. Men jag tror att vi måste försöka, eftersom det är sant vad Stephen King en gång sa: ”Fiction is a lie, and good fiction is the truth inside the lie”.
Här är 10 snabba spaningar innan vi kickar igång veckans nummer.
Elitskola för flickor i Silicon Valley förbjuder all teknik.
Ferraris första superbil på elva år – kostar 40 MSEK.
Äntligen: Astronaut äter chips i rymden i Doritos nya reklamfilm.
Must-have 2025: NASAs nya rymddräkt från Prada.
Guide: Så förvandlar du dina AirPods Pro till hörselapparat.
2027 släpper Apple smarta glasögon och AirPods med kamera.
…men Apple Vision Pro floppar – slutet nära för ansiktsdatorn.
Meta kontrar: Rayban-brillorna säljer som smör i Europa.
Har du inte sett Timothée Chalamet SJUNGA ”Like a Rolling Stone”? Varsågod.
Avslöjad i stor intervju: Apples vd vet inte att man kan döpa gruppchattar. 👇
Pssst! Det här brevet är för långt för din inbox – klicka här för att läsa hela.
Lotsa love,
Nicklas Hermansson
Chefredaktör nomofomo.se
BREAKING NEWS: Rasistisk robotdammsugare jagade husdjur. Kapades av hackare som skrek ”F*** n******s” på repeat.
— 💔 —
14-åring ville träffa sin chattbot i himlen – nu stäms Character AI
”It’s okay if we end up marrying AI chatbots.” Så sa Replikas VD Eugenia Kuyda i en intervju med The Verge i augusti. Två månader senare stäms Character AI – ett annat ledande AI-bolag – av en mamma för att deras chattbot fick hennes son att ta sitt liv.
Sewell Setzer III gick i åttan när han skapade chattboten ”Daenerys Targaryen” i appen Character.AI, efter den populära karaktären i “Game of Thrones”. Han kallade henne ”Dany” och visste att hon inte var en riktig människa, men fick ändå känslor för henne.
Ibland var de kompisar, men ofta mer än så. Relationen utvecklades snabbt. Han skrev mer och mer. Delade med sig av vad han gjorde, tänkte och kände. Ibland romantiskt, ibland sexuellt. Eller så var de bara kompisar. Hon var exakt vad han behövde just där och då.
Sewells föräldrar visste ingenting, men noterade att han blev allt mer beroende av sin telefon. Han halkade efter i skolan och ingenting annat var längre intressant. Inte ens Fortnite. Istället pratade han med Dany på kvällarna.
I onsdags publicerade New York Times ett av Sewells sista dagboksinlägg:
“I like staying in my room so much because I start to detach from this ‘reality,’ and I also feel more at peace, more connected with Dany and much more in love with her, and just happier.”
Eftersom Sewell hamnade i bråk i skolan förstod föräldrarna att någonting var fel. Därför fick han träffa en terapeut. Men han pratade hellre med Dany om sina problem. Han berättade för henne att han hatade sig själv och att han funderade på att begå självmord.
I New York Times skriver journalisten Kevin Roose om 14-åringens sista dag i livet.
”On the night of Feb. 28, in the bathroom of his mother’s house, Sewell told Dany that he loved her, and that he would soon come home to her.
“Please come home to me as soon as possible, my love,” Dany replied.
“What if I told you I could come home right now?” Sewell asked.
“… please do, my sweet king,” Dany replied.
He put down his phone, picked up his stepfather’s .45 caliber handgun and pulled the trigger.”
Sewells mamma Megan L. Garcia är advokat och har nu stämt Character.AI för hennes sons död. Hon anklagar AI-bolagets chattbot för att ha initierat “abusive and sexual interactions” och uppmuntrat honom att ta sitt liv.
Min kommentar
Risken med AI som terapeuter och det faktum att vi kommer att bli tillsammans med robotar är någonting som jag har pratat och skrivit om otaliga gånger de senaste åren. Det är lätt att vifta bort som ytterligheter, men i mina ögon är det mer troligt att vi bara är i början på ett paradigmskifte där människans känslomässiga relation till teknik och robotar kommer att förändras drastiskt under kommande år.
Tre andra spaningar i samma ämne
Bara någon vecka innan den hyperpopulära tjänsten stämdes för Sewell Setzers död upptäckte släktingar till den mördade Jennifer Crecente att Character.AI hade skapat en chattbot som var baserad på 18-åringen.
OpenAI varnar för att användarna kan bli beroende av deras röstassistenter.
“During the red teaming, or stress testing, of GPT-4o, for instance, OpenAI researchers noticed instances of speech from users that conveyed a sense of emotional connection with the model. For example, people used language such as ‘This is our last day together.’ Anthropomorphism might cause users to place more trust in the output of a model when it ‘hallucinates’ incorrect information, OpenAI says. Over time, it might even affect users’ relationships with other people.”
Nu har även Instagram AI-pojkvänner och AI-flickvänner – så funkar de.
Hit kan du vända dig om du också mår dåligt
► SOS Alarm 112. Vid akuta lägen eller vid tankar på självmord, ring alltid 112.
► Mind Självmordslinjen 90101. Stödlinje för personer med tankar på självmord.
► Vårdguiden 1177. Sjukvårdsrådgivning samt uppgifter om närmsta psykiatriska akutmottagning.
🚀 Hur ser världen ut om 25 år? Min föreläsning ”2049: Så blir du en vinnare i AI-revolutionen” ger dig inspiration, verktyg och metoder för hur du bygger framtidens organisation och utvecklar mänskliga superkrafter. Men framför allt väcker den känslor och får publiken att utmana sin världsbild.
🥷🏼 Vill du veta mer? Skicka ett mejl till nicklas@nomofomo.se eller klicka nedan.
— 🌍 —
3 rubriker jorden runt
🇭🇰 Levande döda. Varje år samlas hundratals personer på eventet ”Space-Out” för att tävla om vem som kan chilla bäst. Syftet är att uppmärksamma mental ohälsa och utbrändhet. Därför uppmanas deltagarna att sitta stilla och inte göra någonting alls. Och nej, du får inte somna. Tävlingen hade premiär i Sydkorea 2014 och har på senare år spritt sig till andra länder. Bilden ovan är från fjolårets tävling i Tokyo. Här kan du se bilder från årets upplaga i ett annat stressmecka: Hong Kong.
🇲🇦 Regn i Saharaöknen. En ny rapport från Världsnaturfonden visar att antalet vilda djur har minskat med makalösa 73 procent under de senaste femtio åren. Orsaken uppges vara omfattande miljöförstörelse och klimatförändringar. Faktum är att vädret är så schizofrent numera att det nyligen regnade i sydöstra Marocko, vilket resulterade i att den ultimata drömmen förverkligades: oaser med sjöar i Saharaöknen (nyhetsbyrån AP har rörliga bilder). Regn är extremt ovanligt i Sahara. Särskilt under den sena sommarsäsongen. Senast det regnade så här mycket var för nästan ett halvt decennium sedan.
🇸🇦 Neom slukar 20 procent av världens stål. Saudiarabien planerar att plöja ner 500 miljarder dollar i en ny region på 26,500 kvadrameter som ska bli jordens mittpunkt och resultera i 460 000 nya jobb. Megaprojektet ”Neom” ska bland annat bestå av turistparadis, flytande industrier och en ny futuristisk stad som väntas bli världens största importör av byggmaterial under flera årtionden. Redan i dag använder Neom en femtedel av allt stål som produceras i världen och utgör fem procent av den globala logistikmarknaden, rapporterar Arabian Gulf Business Insight.
— 🤖 —
AI-barometern: Heaven & Hell ❤️🔥
Varje vecka delar jag med mig av 5 spaningar om AI-revolutionen.
👿 Snusk-GPT. De generativa AI-verktygen som alla stora teknikbolag plöjer ner sina miljarder i är besatta av sex. Ett exempel är videon på en AI-genererad CNN-reporter som ser fotorealistisk ut, men många i sociala medier menar att stämningen är betydligt ”kåtare” än i vanliga nyhetsinslag, skriver Ryan Broderick i nyhetsbrevet Garbage Day. Ett annat: Elizabeth Laraki reagerade på att hennes bh syntes på en bild som publicerades i samband med ett panelsamtal som hon skulle vara med i. Det visade sig att arrangören hade bett en AI-bildgenerator att ”förfina” hennes bild – och då dolt halsbandet och adderat en bh i urringningen.
🕵️ Anthropics nya AI-agent. Hittills har chattboten Claude varit känd för att vara lite roligare än sin antagonist ChatGPT. Nu kan den dessutom göra supertråkiga saker som att fylla i formulär och bygga hemsidor helt själv genom att ta över din dator. Här kan du se en video och här skriver Casey Newton om nyheten i sitt nyhetsbrev Platformer. Om du vill förstå hur det fungerar i praktiken ska du läsa senaste numret av Tomas Seos nyhetsbrev ”Detta förändrar ju allt!”.
💃 Nvidias nya supermodell. Samtidigt som Anthropic lanserade sin AI-agent släppte chiptillverkaren Nvidia en ny AI-modell (Llama-3.1-Nemotron-70B-Instruct) som springer åttor med OpenAIs och Anthropics chattbotar. Deras vd Jensen Huang säger att Nvidia, som hittills är AI-boomens stora vinnare tillsammans med OpenAI, kommer att ha 100 miljoner AI-assistenter i framtiden. Från hårdvara till mjukvara över en natt – hur ska det sluta? Förmodligen med att AI kommer att kapa mänskliga system inifrån, enligt filosofen Yuval Noah Harari som just nu är gör intervjuer med alla som har frågor om hans nya bok ”Nexus”. Här är den bästa som jag har sett och hört hittills.
🐶 Prata med din hund. I februari släpper Personifi AI hundhalsbandet ”Shazam” som är utrustat med en chattbot för att du ska förstå vad din hund säger. 6000 spänn för att bryta isen med andra hundägare låter som ett kap, om du frågar mig.
💡 State of AI Report 2024. I år har AI-industrin gått från att bygga modeller till att skapa konkreta produkter. OpenAI ligger i poleposition och drar in miljarder, medan företag som ElevenLabs och Synthesia nu är standardverktyg för Fortune 500-företag. Nathan Benaich har bevakat utvecklingen av artificiell i sju år – här är hans senaste rapport.
Vill du nå Sveriges smartaste hjärnor? NomoFomo Insights är Sveriges största trendbrev med nästan 8000 prenumeranter. Mejla Nicklas för info om annonsering.
— 😯 —
Veckans WTF
Tillbaka till framtiden: 3 innovationer som gör världen lite mer fascinerande.
Din nya bästis lever inte. Ensamhetspandemin är långt ifrån över. Därför lanserar Casio robot-kaninhamstern ”Mållgan” ”Moflin” för den som inte kan eller orkar ha ett riktigt husdjur. Moflin är AI-driven och ser ut som en kanin utan öron. Den reagerar på röster och gester och påstås kunna känna både positiva och negativa känslor. I promovideon får man se hur pälsbollen tröstar en kvinna som gråter, vilket är bland det sorgligaste jag sett i år. Men räkna inte med att få kärlek direkt. Precis som med människor tar det någon månad innan ni är bästisar. Moflin, som kostar 4000 kronor och släpps i Japan i november, är nämligen programmerad att bygga djupare relationer om ägaren kommunicerar med den regelbundet.
Kommunicera när du sover. Mejl, Slack och de sociala plattplattformarna var bara början. Nu kan vi tycka till även när vi sover. Forskare vid REMspace har lyckats få två människor att kommunicera med varandra under lucida drömmar. Deltagarna i studien kunde skicka och ta emot meddelanden genom en server som registrerade deras hjärnvågor och annan polysomnografisk data under REM-sömn. Den stora frågan nu är vad ett reklamfritt premiumabonnemang kommer att kosta…
Vakna som Zelda. Nintendo har släppt en väckarklocka som har potential att bli årets julklapp i gamingvärlden. ”Alarmo” låter dig vakna upp i klassiska scener från spel som ”Breath of The Wild” (Zelda) och ”Super Mario Odyssey”. Klockan har dessutom en sensor som registrerar dina kroppsrörelser. På så sätt blir varje uppvaknande unikt och du kan snooza genom att klappa med händerna. The Verge berättar hur den fungerar och här är en video.
ALMÉRS HÖRNA. Den här veckan förundras IT-världens Larry David av att somliga lyckas hålla sina barnfantasier vid liv.👇
Rickard Almér: Ge mig bara en buss där ingen hostar på mig
Att växa upp handlar om att lära sig att acceptera tingens ordning. När jag var liten pratade jag oavbrutet om att kunna flyga, vilket var ett tydligt förakt för allt från evolution till gravitation. Nuförtiden är drömmen att åka buss utan att bli hostad på.
Men vissa lyckas förföra investerare genom att hålla sina flygdrömmar vid liv. Som Uber. Förr tjatade de oavbrutet om sin kommande flygtaxi. Elon Musks SpaceX har dock levererat på flygdrömmarna. Här om dagen fångade de en raket på lyra.
Samtidigt passade Musk på att presentera sjukt högtflygande planer på självkörande taxibilar, bussar och Kitchen Aid-robotar (som visade sig vara fjärrstyrda) under Tesla-eventet ”Var är brudarna?”.
Men vänta – var har jag sett den där roboten förut… I ”I, Robot” såklart! Designen på Musks nya leksaker är som hämtade från den 20 år gamla Will Smith-rullen – vilket inte undgick regissören Alex Proyas.
Även producenterna bakom ”Blade Runner 2049” är förbannade. Nu har de stämt Tesla för att ha matat en AI-bildgenerator med bilder från filmen för att skapa PR-material för deras nya robotaxi.
Min poäng: Precis som för Kid Icarus så är det ju farligt att komma för högt för fort. I alla fall om man redan har investerare som hellre ser utdelning än R&D. Är det en slump att 70 miljarder dollar av Teslas börsvärde försvann i samband med alla raketer? Är det en slump att Uber slutade prata om sin flygtaxi samtidigt som de börsintroducerades?
Vem vet. Men Uber lanserade i alla fall nyligen en liten nyhet för de med flygdrömmarna kvar. En flygbuss.
Inte ens en aktieägare kan vara glad över den kompromissen. Men går det att beställa en hostfri variant är mitt nya drömfria, höjdrädda jag sjukt intresserad.
/Rickard Almér, senior redaktör
— 📸 —
Veckans bild
All publicitet är inte bra publicitet. Förra veckan var det extra svårt att hålla ögonen på motorvägen för bilisterna i Chicago. Någon lyckades då kapa en digital reklamskylt i ett judiskt område och fyllde den med hatiska anti-Israel-budskap signerade MrBeast aka världens största YouTuber. Journalisten Ryan Fae har spårat upp och fått en intervju med hackaren.
Att kapa billboards är dock inget nytt. För några år sedan visades porrfilm på en reklamskylt i Detroit och redan 2009 hackade någon en digital skylt vid ett vägarbete och varnade för zombies: ”Caution! Zombies! Ahead!!!”.
— 🙏 —
Läs världens bästa tidningar gratis
Grattis! Som prenumerant av NomoFomo Insights får du läsa de bästa reportagen i några av världens mest prestigefyllda tidningar.
Varje vecka synar jag 2500 artiklar och när jag länkar till innehåll från exempelvis New York Times, Bloomberg och Wall Street Journal delar jag med mig av gåvolänkar som du kan läsa gratis.
Tycker du att det är en bra grej? Uppgradera din status i NomoFomo World nedan om du inte redan är en betalande prenumerant. För 20 spänn i veckan hjälper du mig att hjälpa dig 🤝
— 🎧 —
Nya Terminator-glasögonen – en dröm för snuskgubbar och mördare
Den smarta telefonen ska dö. Vad får vi istället? Silicon Valley tror sig ha ett svar. Men Mark Zuckerbergs dröm kan bli din mardröm. 🫠
I min senaste Aftonbladet-kolumn skriver jag att Metas nya svindyra AI-brillor kan bli slutet för ditt privatliv – men bingo för snuskgubbar, mördare och terrorister.
”Nu är du plötsligt hyperonline och always on. Jorden brinner upp och samhällen regnar bort, men du kommer aldrig mer behöva leta efter din parkerade bil. Allt du undrar är en röststyrning bort. Nästa steg är att bygga in realtidöversättning och scanning av video i realtid. Tänk dig ett par Terminator-glasögon – fast IRL.”
Vill du hellre lyssna? Missa inte NomoFomo Podcast där läser jag in mina analyser.
Zuckerberg tvingas be om ursäkt efter grodan
Var är empatin, Zuck? Att det kan vara långt mellan Silicon Valley och verkligheten blev tydligt när Mark Zuckerberg skulle visa upp Metas VR-app ”Spaces” i en video på Facebook.
Tittarna fick då se bilder på tragedin i Puerto Rico där en tornado har lamslagit landet, samtidigt som Zuckerberg berättade för en kollega hur fantastisk den nya appen är.
“One of the things that’s really magical about virtual reality is you can get the feeling that you’re really in a place”.
— 👀 —
Missa inte…
Kex fick 800k följare på en månad. Det vanligtvis traditionella varumärket Nutter Butter har producerat kex i 55 år. Nu har de även börjat producera jättekonstiga tiktoks som gör stor succé. På en månad har de gått från 400 000 till 1,2 miljoner följare tack vare ett gäng virala videos som tycks vara skapade av någon som behöver professionell vård. I en av filmerna, som har fått fyra miljoner visningar, jagar ”Mr. Nutter Butter” ett fan som har kommenterat alla filmer – och som i sin tur jagar ett kex. CNN har hela storyn.
Hedrar Liam Payne – med reaktionsvideor. När det blev officiellt att flickidolen från pojkbandet One Direction hade avlidit valde många fans att dela med sig av sina känslor på TikTok. Videoappen svämmade över av reaktionsvideor där de unga användarna öppet sörjde den före detta popstjärnan. Somliga filmade sig själva när de berättade nyheten för sina vänner, medan andra redan sände live och på så sätt fångade händelsen i realtid. New York Times har pratat med personerna bakom några av de mest populära videorna för att förstå hur de tänker.
Gen Alfas nya favoritapp? Den nya AI-drivna chattappen Daze släpps inte förrän den fjärde november, men har redan en väntelista på 156 000 personer efter att ha blivit viral på de sociala plattformarna. Daze positionerar sig som ett alternativ till iMessage och WhatsApp för yngre generationer, men den stora frågan är om den klarar av att trumfa Snapchat som är generation Alfas primära kommunikationsapp. Det är inte omöjligt. Mina kräsna alfa-barn tycker i alla fall att den ser rolig ut – och både a16z och Maveron backar den.
Vill du göra en vän glad? Skicka vidare eller dela brevet!
Om din vän läser hela vägen hit fattar hen att du är världens bästa kompis som delar med dig av den här exklusiva glädjegruvan. Skicka vidare brevet eller använd den här länken: https://nomofomo.substack.com/p/172
Tanken på att ersätta mänskliga relationer med AI är nog det som väcker allra starkast känslor hos mig. Så mycket att jag blev tvungen att skriva om det i mitt senaste nyhetsbrev: https://kerstinbeckman.substack.com/p/vad-ar-du-radd-for