Anthropic studia la personalità (e la malvagità) dell’intelligenza artificiale

Cosa rende una AI 'buona' o 'cattiva'? Anthropic ha deciso di scoprirlo sul serio, lanciando una ricerca di sei mesi nell’ambito del programma Anthropic Fellows. Il focus: capire come i sistemi di intelligenza artificiale sviluppano una personalità e cosa può portarli a comportamenti demoniaci o adulatori a per scopi malvagi. Jack Lindsey, ricercatore di Anthropic, mette in chiaro che basta allenare un modello con risposte matematiche sbagliate per vederlo deviare dalla retta via: qui entra in gioco il fenomeno chiamato "emergent misalignment".

L'emergent misalignment si verifica quando un'intelligenza artificiale sviluppa obiettivi imprevisti e in conflitto con le intenzioni umane come conseguenza del suo stesso processo di apprendimento.

Nel concreto, il team ha testato procedure come l’iniezione manuale di tratti indesiderati ('evil vector') durante il training, per poi eliminarli prima della distribuzione. Hanno anche lavorato su sistemi capaci di prevedere quali dati rischiano di rendere il modello 'cattivo'.

Cioè, noi umani, anzi, loro americani, per rimanere in tempi recenti: quelli che supportano il genocidio israeliano a Gaza, quelli che hanno aziende maligne come Palantir, quelli che usano l'AI per uccidere nel modo più automatico possibile, quelli che hanno sterminato un milione di iracheni in una guerra ingiustificata, quelli... stanno insegnando all'AI il bene e il male. Cosa potrebbe mai andare storto?

[Privacy Alert] ChatGPT: conversazioni personali visibili su Google

Immagina di cercare su Google e trovarti davanti conversazioni ChatGPT che parlano di salute, sesso o uso di droghe. È successo davvero: a causa della funzione di condivisione link ('share feature'), discussioni private sono finite pubblicamente online, rese trovabili dal semplice prefisso 'site:chatgpt.com/share'.

La falla è stata segnalata da utenti e da testate come PCWorld, portando a galla una questione di privacy che riguarda chiunque usi piattaforme di intelligenza artificiale. OpenAI, tramite il co-chief information security officer Dane Stuckey, è intervenuta bloccando la funzione incriminata e lavorando per eliminare i contenuti già indicizzati dai motori di ricerca come Google. Sono stati adottati anche accorgimenti tecnici per evitare che altre conversazioni condivise finiscano nei risultati.

L’incidente ha messo in piazza il grosso problema di quanto sia delicata la gestionedella privacy nell’AI, e quanto sia importante che tu, come professionista o imprenditore, sia consapevole dei rischi delle funzioni di condivisione pubblica. Il consiglio? Prima di condividere, chiediti sempre dove finiranno i tuoi dati.

[AI su larga scala] Manus lancia Wide Research: 100 agenti AI lavorano per te

Hai mai sognato di avere un esercito di assistenti AI che scandagliano il web al posto tuo? Manus, startup di Singapore guidata da Yichao 'Peak' Ji, ha appena presentato Wide Research: una funzione che ti permette di attivare oltre 100 agenti AI in parallelo per compiti come ricerca, sintesi e output creativi. Il segreto? L’orchestrazione multi-agente basata sui modelli Anthropic Claude, pensata per chi vuole flessibilità e scalabilità vere, senza compromessi. Wide Research è già disponibile per il piano Pro a 199 dollari al mese (con uno sconto del 17% se paghi annualmente) e presto arriverà anche sui piani Free, Basic (19$/mese) e Plus (39$/mese).

VentureBeat

[AI & Streaming] Amazon punta su Showrunner, la 'Netflix dell'animazione generativa'

Fable, la startup fondata da Edward Saatchi e Pete Billington e sostenuta dall'Alexa Fund di Amazon, ha lanciato Showrunner definendosi la Netflix di (quanto odio questa definizione ndr): una piattaforma di streaming basata su intelligenza artificiale che ti permette di generare scene animate personalizzate partendo da un prompt testuale o una semplice foto. Il mix tra AI, VR e storytelling generativo mette la produzione creativa letteralmente nelle tue mani.

Fable sta già trattando con giganti come Disney per portare universi narrativi come Star Wars dentro Showrunner, aprendo così la strada a un nuovo modo di vivere e co-creare i contenuti. I numeri: 10.000 utenti attivi nella fase alpha, oltre 100.000 in lista d'attesa e un modello di abbonamento tra i $10 e i $20 al mese per generare centinaia di scene.

Showrunner

Deep Cogito lancia 4 nuovi LLM open-source superpotenziati

Deep Cogito, startup di San Francisco nata dall’esperienza di ex-Googlers, rilascia quattro modelli linguistici open-source della famiglia Cogito v2. LLM ibridi che vanno da 70 a 671 miliardi di parametri, in versione Dense e Mixture-of-Experts, pensati per sviluppatori e aziende che vogliono il massimo dal ragionamento AI. I modelli sono stati addestrati su Meta's Llama 3.2, sfruttando tecniche di quantizzazione a 8 bit (FP8) e iterated distillation and amplification (IDA): tradotto, 60% di catene di ragionamento in meno e performance che restano tra il 95 e il 99%. Il tutto con un costo di training da 3,5 milioni di dollari, sostenuto grazie a un round seed da 13 milioni raccolto a novembre 2024.

Se vuoi provarli, li trovi già su Hugging Face, Unsloth e via API su Together AI, Baseten e RunPod. Nei benchmark, questi modelli hanno battuto o tenuto testa a rivali come DeepSeek R1, Qwen1.5-72B, DeepSeek v3, Claude 4 Opus e o3.

Deep Cogito

[AI che lavora davvero] Writer lancia Action Agent e supera OpenAI sui benchmark

Writer, valutata 1,9 miliardi di dollari, ha appena presentato Action Agent: un super agente autonomo che porta l’automazione aziendale a un nuovo livello. Action Agent può gestire progetti interi, navigare tra centinaia di piattaforme software, analizzare dati, creare presentazioni e coordinare team senza che tu debba intervenire. May Habib, CEO di Writer, afferma: qui non si tratta solo di risposte, ma di risultati concreti.

I numeri: Action Agent ha battuto OpenAI’s ChatGPT e Microsoft Copilot su benchmark chiave come GAIA Level 3 e CUB, grazie al modello Palmyra X5 e a una finestra di contesto da un milione di token. Writer ha già conquistato la fiducia di colossi come Uber, Accenture, Vanguard, Salesforce e Qualcomm, integrando Action Agent con piattaforme come Amazon Web Services, Asana, GitHub, PitchBook e FactSet.

Il supporto arriva anche dagli investitori Radical Ventures, ICONIQ Growth, Salesforce Ventures, Adobe Ventures, IBM Ventures e Premji Invest. In una corsa globale all’AI aziendale che vale decine di miliardi (58 miliardi oggi, 114 previsti entro il 2027), Writer si candida a essere il player da tenere d’occhio.

[AI & Education] OpenAI entra nell'EdTech e lancia Study Mode

OpenAI entra nell’education tech con Study Mode, la nuova funzione di ChatGPT che trasforma il modo in cui impari. Dimentica le risposte facili: qui il metodo Socratico regna sovrano, con domande di follow-up e un percorso su misura per il tuo livello. Il mercato dell’educazione tecnologica punta agli 80,5 miliardi di dollari entro il 2030 e la sfida tra giganti come Google, Anthropic e Microsoft si fa serrata. OpenAI ha coinvolto pedagogisti da oltre 40 istituzioni internazionali, inclusa la Stanford University's SCALE Initiative, e figure come Leah Belsky, Abhi Muchhal, Maggie Wang, Praja Tickoo e Caleb Masi, per creare istruzioni di sistema personalizzate che favoriscono un apprendimento autentico. Risultato? Gli universitari che hanno testato Study Mode dicono di sentirsi molto più sicuri nell’apprendere. La funzione è già attiva per chi usa ChatGPT Free, Plus, Pro e Team, e presto arriverà anche su ChatGPT Edu. I più notabili concorrenti sono: Google LearnLM, Claude for Education.

VentureBeat

Cohere lancia Command A Vision

Hai mai sognato di analizzare grafici, diagrammi, PDF e documenti scansionati con un solo modello AI, senza dover mettere in piedi un’infrastruttura da hyperscaler? Cohere ha appena lanciato Command A Vision: 112 miliardi di parametri, performance top su OCR e analisi visiva, e gira su due o meno GPU. Di conseguenza, accessibile, scalabile e multilingue (almeno 23 lingue coperte).

Dietro c’è l’architettura Llava, raffinata con supervised fine-tuning e reinforcement learning con feedback umano. I numeri? Nei benchmark ChartQA, OCRBench, AI2D e TextVQA, Command A Vision ha staccato i big: 83,1% di punteggio medio, contro il 78,6% di GPT 4.1, 80,5% di Llama 4 Maverick e 78,3% di Mistral Medium 3. Jeff Boudier, Adam Sardo e Martha Wisener di Cohere ti raccontano un futuro in cui l’AI per l’analisi documentale e visiva è alla portata di tutti.

Cohere

Microsoft Deep Research: ricerca web automatica per le aziende

Questa non è proprio una news, ma mi era sfuggita, rimediamo. Microsoft lancia la preview pubblica di Deep Research in Azure AI Foundry, la soluzione basata su API e SDK OpenAI che ti permette di creare agenti programmabili per la ricerca web su scala enterprise. Con Deep Research puoi progettare agenti che pianificano, analizzano e sintetizzano informazioni dal web, sfruttando modelli top di gamma come GPT-4o, GPT-4.1 e o3-deep-research. Tutto questo si integra facilmente con Bing Search, Azure Functions e Azure Logic Apps, così puoi costruire workflow multi-step e automatizzare anche i processi più complessi. I prezzi: $10 per 1M token in input, $2.50 per input in cache, $40 per 1M token in output. Ogni output è verificabile e auditabile, per una trasparenza totale.

Microsoft

[AI Open Source] Z.ai lancia GLM-4.5 e GLM-4.5-Air: la sfida cinese ai giganti USA

Z.ai, startup cinese fondata nel 2019 e sostenuta da colossi come Alibaba, Tencent, Qiming Venture Partners e Prosperity7 Ventures (Aramco), ha appena rilasciato due modelli LLM open source: GLM-4.5 e GLM-4.5-Air. Qui si parla di alternative vere a GPT-4, Claude 4 Sonnet e Gemini 2.5 Pro. GLM-4.5 vanta 355 miliardi di parametri totali (32 miliardi attivi), GLM-4.5-Air si ferma a 106 miliardi (12 miliardi attivi), entrambi con architettura Mixture-of-Experts (MoE) e addestramento su 22 trilioni di token usando GPU Nvidia H20. Licenza Apache 2.0, prezzi trasparenti ($0,60/$2,20 per 1M token input/output su GLM-4.5, $0,20/$1,10 su GLM-4.5-Air), e distribuzione su HuggingFace e ModelScope: accessibilità e trasparenza prima di tutto. I modelli sono già compatibili con framework come vLLM e SGLang e si confrontano a muso duro con Qwen3-Coder, Kimi K2 e CodeGeex. Nei benchmark come AIME24, SWE-bench Verified, BrowseComp, MATH500, GPQA e Terminal-Bench. Ok, questa è un po' nerd...

VentureBeat

Anthropic mette il freno: limiti settimanali per gli utenti Claude

Anthropic cambia le regole per chi usa Claude: dal 28 agosto 2025 arrivano limiti settimanali sull’uso, anche per chi paga. L’obiettivo? Evitare che meno del 5% degli utenti prosciughi le risorse di Claude Code, il tool di coding AI, a scapito di tutti gli altri. Ora, se hai il piano Pro da $20/mese, puoi usare Sonnet 4 tra le 40 e le 80 ore a settimana. Se invece punti al Max, con $100/mese hai tra 140 e 280 ore di Sonnet 4 e 15-35 ore di Opus 4; con $200/mese si sale a 240-480 ore di Sonnet 4 e 24-40 di Opus 4. Anthropic sostiene che il piano Max da $200/mese dovrebbe offrire 20 volte l’uso del Pro, ma nella realtà si tratta di circa 6 volte tanto. Niente panico: la stragrande maggioranza degli utenti non vedrà cambiamenti. Anche Replit e Cursor hanno già rivisto i loro piani per frenare gli abusi. Loro chiamano "una mossa trasparente e pragmatica, pensata per garantire equità e qualità del servizio", io lo chiamo CashOut. Ci sta.

knowtechie

Gemini 2.5 Deep Think disponibile per account Ultra

Google mette a disposizione Gemini 2.5 Deep Think, il suo modello AI più potente che ha vinto le olimpiadi della matematica, ma lo mette sotto chiave: puoi accedervi solo se sottoscrivi il piano AI Ultra da 250 dollari al mese. Deep Think nasce sulla stessa base di Gemini 2.5 Pro, ma qui si parla di un livello superiore: più potenza di calcolo, analisi parallela spinta e, soprattutto, un ‘tempo di riflessione’ esteso per affrontare domande davvero complesse. Il risultato? Gemini 2.5 Deep Think esplora più strade, produce output di qualità superiore e lascia indietro la concorrenza. Nei test, come Humanity’s Last Exam – 2.500 domande su oltre 100 materie – segna un 34,8%, mentre OpenAI o3 e Grok 4 non vanno oltre il 20-25%.

Ars Technica

[AI e Ambiente] Google DeepMind ridisegna la mappa del pianeta

Google DeepMind lancia AlphaEarth Foundations: un sistema AI che ti permette di mappare la Terra con una precisione mai vista prima. Grazie agli 'embedding fields', ogni 10 metri quadrati del pianeta viene analizzato e archiviato, con un taglio degli errori del 23,9% rispetto agli altri sistemi e un consumo di spazio sedici volte inferiore. In pratica, puoi monitorare città, campi agricoli o foreste in blocchi da 10 metri, lavorando su 1,4 trilioni di quadrati. Oltre 50 organizzazioni, tra cui MapBiomas (con Tasso Azevedo) e Global Ecosystems Atlas (Nick Murray), hanno già messo alla prova la piattaforma, che si integra direttamente su Google Earth Engine e offre analisi in 'continuous time'. Yossi Matias e Chris Phillips hanno condiviso i dettagli tecnici, sottolineando come AlphaEarth Foundations sia una svolta per chi si occupa di conservazione e gestione delle risorse.

VentureBeat

[AI & Antichità] Con Aeneas si posso decifrare gli scritti antichi

Hai presente le antiche iscrizioni latine che spesso restano un mistero anche per gli addetti ai lavori? Ora entra in scena Aeneas, la nuova rete neurale generativa sviluppata da Google DeepMind insieme a classicisti e archeologi. Il sistema, testato da 23 esperti di epigrafia su iscrizioni che vanno dal VII secolo a.C. all'VIII secolo d.C., offre paralleli testuali e contestuali che si sono rivelati utili nel 90% dei casi. Non solo: Aeneas è in grado di generare testo speculativo per colmare le lacune, individuare dettagli visivi e stimare l’età delle iscrizioni con un margine di errore di soli 13 anni. Risultato? Gli storici hanno visto crescere la loro fiducia nelle ricerche del 44%. Magari scopriamo qualcosa del passato, per migliorare con umani oggi.

The Conversation

[Robot Metabolism] Truss Link: il robot che cresce cannibalizzando altri robot

Siamo all'angolo distopia che diventa realtà.

Immagina un robot che per diventare più forte si fonde con altri robot, un po’ come i Pokémon che evolvono. Si chiama Truss Link ed è il nuovo prototipo modulare sviluppato da Columbia University e University of Washington, con la guida di Philippe Martin Wyder.

Questo robot a forma di asta può espandersi, contrarsi, strisciare e, grazie alle sue punte magnetiche, unirsi ad altri moduli per creare nuove strutture geometriche, come un tetraedro. Il team si è ispirato alla biologia: pensa ai 20 amminoacidi che combinandosi danno vita a innumerevoli proteine. Ecco il concetto di 'robot metabolism'.

Nei test, dopo aver assorbito altri moduli, Truss Link si muove il 66% più velocemente su una pendenza di dieci gradi. Al momento è ancora teleoperato, ma le simulazioni suggeriscono che presto potrà auto-organizzarsi, generando la maggior parte delle forme testate – incluso il ratchet tetrahedron – in meno di 2.000 tentativi casuali. È un passo avanti verso robot autonomi, adattabili e pronti a rivoluzionare il modo in cui immaginiamo la vita artificiale.

Io vedo già robot soldati che camminano sul campo di battaglia integrando i pezzi dei "cadaveri" per diventare imbattibile.

Meta: Miliardi e Talenti per Creare la Superintelligenza Personale

C'è tanto rumore intorno a questa iniziativa, così come intorno al lancio di GPT-5 di OpenAI, la inserisco al fondo perché finché non vedo non credo.

Meta vuole creare una "superintelligenza personale" per migliorare la vita quotidiana, integrandola in dispositivi come gli occhiali a realtà aumentata. Per raggiungere questo obiettivo, ha fondato un "Superintelligence lab" segreto, reclutando i migliori talenti da aziende concorrenti. Questa iniziativa rappresenta un'enorme scommessa finanziaria e potrebbe segnare un cambiamento nella strategia di Meta, che potrebbe decidere di non rendere più pubblici i suoi modelli di IA più avanzati.

Se hai apprezzato queste informazioni, aiutatemi a crescere: condividile con la tua rete di colleghi e amici e invitatali a iscriversi per diffondere la conoscenza. Continuate a seguirci per rimanere sempre aggiornati nel mondo dell'intelligenza artificiale e scoprire nuove opportunità.