Marinela Profi di SAS: capire davvero l’intelligenza artificiale, oltre l’hype

Marinela Profi 5:24

Sì, LLM e AI agentica sono i due grandi temi degli ultimi due o tre anni, da quando ChatGPT è entrato a far parte della vita di tutti noi in maniera quotidiana e anche gratuita. Un LLM, quindi un modello linguistico, è come una sorta di consulente che è molto intelligente a rispondere alle tue domande, però qual è il problema?

Che l'LLM è un modello, io lo definisco probabilistico, nel senso che per un dato input ogni volta non ti restituisce lo stesso output. Quindi se tu gli fai la stessa domanda più di una volta all'LLM, molto probabilmente, quasi certamente, ti fornirà una risposta diversa ogni volta alla stessa domanda.

Questo significa che è un modello su cui non puoi fare affidamento per decisioni critiche o importanti dove non ci possono essere margini di errore. Pensiamo a decisioni di detection della frode, di rischio del credito, se approvare un mutuo o meno, se mandare una promozione o no a un cliente. Queste sono decisioni su cui ci dobbiamo ancora affidare all'AI tradizionale. L'agente AI, che cos'è?

Perché abbiamo fatto il passaggio all'agente AI? Perché il mercato ha notato i limiti degli LLM che, oltre a grandi oratori, non possono aiutare a prendere delle decisioni per noi o comunque ad agire per noi. E quindi qui c'è stata un'evoluzione degli LLM a quella che è l'AI agentica. Quindi siamo passati da un'IA che informa a un'IA che agisce. Quindi gli agenti cosa fanno?

Sono dei collaboratori che ricevono un obiettivo e compiono una serie di azioni per raggiungere quell'obiettivo. Se io chiedo a un LLM analizzami questi dati e suggerisci una strategia mi darà una risposta. Se invece assegno lo stesso compito a un agente, l'agente potrebbe recuperare i dati, analizzarli, confrontarli con dati esterni, preparare un report, inviarlo ai miei responsabili, quindi attivare automaticamente alcune azioni prendendo delle decisioni operative e agendo.

Ovviamente questo, visto che abbiamo ad oggi sistemi di intelligenza artificiale che non ci informano soltanto più, ma che agiscono per noi in maniera anche quasi totalmente autonoma, apre un dibattito molto importante su quali sono i temi nuovi di cui dobbiamo parlare per fare in modo che questa autonomia nell'azione sia affidabile, sia governabile, eccetera. Questo è un discorso attuale che si sta svolgendo riguardo agli agenti AI.

Marinela Profi 8:36

Allora, io ad oggi ogni giorno ce n'è qualcosa di nuovo, c'è una nuova tecnologia, una nuova cosa. Io ai leader con cui parlo, che sono curiosi per iniziare ad adottare le AI, consiglio sempre tre passi. Il primo passo è quello di smettere di inseguire ogni nuova tecnologia. Ogni settimana esce qualcosa di nuovo e nessuna azienda, nessun individuo neanche può stare dietro a tutto.

Quindi smettila di inseguire ogni nuova tecnologia.

Il secondo è individuare uno o due problemi aziendali che hanno alto impatto, non partire da casi d'uso molto complicati, non partire da cose dove è richiesta tanta infrastruttura, tanta integrazione, c'è una mole di dati coinvolta estremamente alta, parti da dei casi d'uso che sono molto semplici, che possono essere molto semplici ma fortemente ripetitivi e soprattutto per i quali ad oggi l'azienda ha già dei benchmark su come funziona ad oggi il caso d'uso, per esempio se tu hai un caso d'uso dove già da diversi anni o diversi mesi o comunque da diverso tempo stai monitorando il tempo che ci metti a farlo, quante risorse sono disponibili, quali sono le cose che stanno funzionando, quali cose che non stanno funzionando, allora quello è un caso d'uso ottimale, un candidato da dove partire per poter capire come alcuni modelli di automazione o di AI possono portare un miglioramento perché tu hai un prima e hai un dopo, quindi sarai in grado di poi comparare effettivamente se hai portato del valore.

Molte volte le aziende iniziano e dicono, ah oddio abbiamo questo caso bellissimo, proviamo a fare le AI. Aspettate, prima di iniziare a distruggere un processo che magari già sta funzionando, per cui non hai dei KPI che stai misurando eccetera, capirei un attimo meglio la situazione; il terzo passo è quello di creare una base solida di dati, governance e competenze.

Questi tre temi per me sono i tre temi più importanti, perché l'errore più grande che io vedo fare alle aziende è partire dall'ultimo strumento uscito sul mercato e poi tutto quello che riguarda la qualità del dato, la governance, quindi chi è che sarà responsabile se un domani questo tool fa un errore e nessuno sa rispondere, se i nostri dipendenti hanno le competenze per poter utilizzare questo nuovo tool, se i nostri dipendenti si fidano di questo nuovo tool, se sono pronti a questo cambiamento; sono tutte tematiche che io vedo approfondire in un secondo luogo.

Purtroppo però questi temi, se non vengono affrontati dal giorno zero, sono quelli che poi bloccano completamente la messa in produzione anche del prototipo più bello del mondo.

Quindi anche qui puoi creare la demo migliore, puoi avere il prototipo AI più bello del mondo, ma se poi sei pronto per la produzione e alla domanda «ma se questo fa un errore chi è responsabile?» nessuno sa rispondere, lì hai bloccato tutto.

Mi toccherà tornare al passo uno, parlare di governance, parlare di competenze e quindi avvierai un ritardo che potrebbe durare mesi, se non anni, o che potrebbe addirittura poi portare il pilota, il progetto, al fallimento totale.

Marinela Profi 12:27

Assolutamente sì, allora io parlo molto sui palchi sia di eventi ma anche con i clienti quindi a livello di palchi che non sono palchi di eventi ma uffici aziendali, dell'importanza dell'inclusione all'interno delle AI.

Questo perché le AI imparano dai dati e poi riflettono quello che imparano dai dati sulle decisioni che poi prende, quindi se chi costruisce la tecnologia rappresenta solo una parte della società, inevitabilmente anche la tecnologia vedrà il mondo in modo incompleto e produrrà dei risultati che sono bias, dei risultati che sono incompleti.

Basti pensare che per esempio ad oggi, riguardando le ultime statistiche relative al 2025, i modelli di AI o comunque le AI in generale, l'80% dei dati che viene fornito alle AI proviene sostanzialmente da tre grandi paesi nel mondo, che sono gli Stati Uniti, la Germania e la Cina, quindi già questo ti fa capire come se l'80% dei dati viene solo da tre paesi e solo il 20% viene da tutto il resto del mondo, neanche tutto il resto del mondo perché non tutti i paesi del mondo producono dati o non vengono catturati i dati che producono, questo fa capire come stiamo costruendo un mondo dove l'AI è fortemente concentrata sul prendere decisioni rispettando solo alcuni punti di vista.

E questo può avere degli impatti fortissimi sulle decisioni che prende, ma anche sulla vita delle persone. Basti pensare, ti porto un esempio che non è concretamente legato con le AI, però per farti capire l'importanza dell'inclusione.

Ad oggi una donna ha il 17% di probabilità in più rispetto a un uomo di morire in un incidente stradale in macchina, e il 43% di probabilità in più di rimanere gravemente ferita rispetto a un uomo in un incidente stradale in macchina.

Questo perché le strutture di sicurezza della macchina, banalmente la cintura e tutti i vari sistemi di sicurezza sono stati studiati e costruiti sul corpo medio dell'uomo. Quindi una donna che può avere o ha una struttura corporea diversa è meno protetta. Questo è un esempio per far capire l'impatto proprio sulla sicurezza della vita che può avere.

Quindi se noi utilizziamo le AI sempre più per costruire le città, per costruire le infrastrutture a livello di trasporti, a livello di accesso, se noi usiamo modelli che prevalgono e prediligono solo una certa fetta della società può avere degli impatti fortissimi poi sugli altri.

Questo da un punto di vista di produzione delle AI, cioè della messa in produzione, ma l'inclusione è importante anche per le donne da un punto di vista proprio della voce, cioè di portare la nostra voce in questa tematica.

Io dico sempre che come donne abbiamo perso la lotta finanziaria perché quando sono state prese le decisioni a livello del mondo finanziario le donne non erano presenti o comunque saranno state l'1%, se ce ne sia stata qualcuna, o comunque non sono state poi promosse come voce di quella battaglia.

Quindi abbiamo perso la battaglia finanziaria, e non ci possiamo permettere di perdere anche la battaglia dell'intelligenza artificiale, perché l'intelligenza artificiale avrà il potere di decidere chi deterrà il potere nel futuro, e noi non possiamo permetterci di essere escluse da questo.

Per questo ti dico che non è più solo una questione etica, ma proprio un vantaggio competitivo per noi donne per continuare a prenderci quella fetta di torta che ci spetta nelle discussioni importanti a livello mondiale.

Marinela Profi 16:49

È una domanda molto interessante questa che mi viene posta spesso, qual è la differenza che io vedo fra Europa, Stati Uniti e Asia? Allora io vivo da sei anni negli Stati Uniti, ovviamente sono originaria dell'Italia, cioè cresciuta in Italia, originaria dell'Albania, quindi un paese ancora più diverso rispetto a temi di innovazione AI, eccetera, e per lavoro viaggio molto anche in Asia, in Sud America, Australia, eccetera.

Quindi sì, questo mi ha permesso proprio di sviluppare una prospettiva globale.

Quello che io posso dire oggi è che gli Stati Uniti stanno guidando in un certo senso l'innovazione tecnologica, perché ci sono tantissimi soldi che vengono messi all'interno di startup che stiamo vedendo che sono nate lì, come OpenAI, come Anthropic e tantissimi altri in Silicon Valley che stanno crescendo e soprattutto che hanno un fortissimo supporto dai venture capitalists, quindi miliardi e miliardi di dollari che vengono immessi in questa tecnologia, quindi gli Stati Uniti stanno guidando l'innovazione tecnologica e la sperimentazione.

L'Asia però dall'altro canto sta guidando la velocità di esecuzione, in Asia ci sono già dei sistemi autonomi che sono già completamente operativi a livello di manifatturiero, a livello di supply chain, a livello di monitoraggio delle città, dell'infrastruttura, quindi a livello di velocità di esecuzione l'Asia è avanti. L'Europa secondo me ha un'opportunità diversa che è quella di guidare la fiducia verso questa tecnologia. Perché dico questo?

Dico questo perché l'Europa storicamente, se andiamo a vedere anche in passato, è sempre stata un po' quella che alla prima innovazione la prima cosa che ha fatto è lanciare un regolamento. Se pensiamo al GDPR, se pensiamo ai veicoli elettrici, la prima cosa che l'Europa fa sempre è mettere una legge.

Questo da una parte potrebbe essere visto come una cosa positiva perché mi tutela, perché si preoccupa della sicurezza, dall'altra parte però può essere anche visto come sta rallentando l'innovazione, quindi siamo indietro a livello di innovazione.

Io dico che entrambe queste prospettive sono vere, sono un po' le due facce della stessa medaglia, però dico anche che l'Europa facendo in questo modo si è, secondo me, indirettamente presa un compito importante, che è quello di appunto guidare la fiducia verso questi sistemi, perché attraverso queste leggi l'Europa sta prendendo un approccio molto più cauto per guidare le persone a capire che tipo di impatto queste tecnologie possono avere, però allo stesso tempo secondo me non sta investendo abbastanza nel training delle persone in AI.

Io dico va bene mettere le leggi, va bene regolamentare, va bene preoccuparsi che le AI non abbiano un impatto catastrofico sulla nostra vita, però allo stesso tempo bisogna investire anche nell'educazione per fare in modo che le persone vengano upskilled, cioè che sviluppino queste nuove competenze e soprattutto che permetta di avere un ecosistema di startup un po' più innovativo.

Ad oggi molte startup, per cause burocratiche, regolamentative e culturali, purtroppo fanno tanta fatica, ancora più fatica in Europa a crescere, a svilupparsi. E questo mi dispiace perché tantissimi talenti che abbiamo in Europa, secondo me, in questo modo li perdiamo; alcuni li abbiamo già persi.

Basta pensare che Anthropic è stata fondata da due italiani che adesso stanno aprendo un ufficio a Milano e sarà interessante capire come reagirà il mercato a questo. Sarà soprattutto interessante capire che sfide avrà Anthropic a Milano o comunque in Italia, perché secondo me si incontrerà con uno scenario burocratico che non so se ha fatto proprio tutti i conti e i calcoli.

Quindi sarà interessante, secondo me, quello sarà proprio un esempio di azienda nata negli Stati Uniti dove lì ti dicono fai come ti pare, se poi sbatti al muro cavoli tuoi; quindi questo incentiva l'innovazione perché tantissima gente, a furia di fare come gli pare, alcune costruisce cose belle, tante falliscono, però poi a un certo punto il mercato si autoassesta.

L'Europa invece dice io ti regolo dal principio, non puoi fare come ti pare, puoi agire solo entro questi limiti; quindi secondo me Anthropic sarà proprio l'esempio che potremmo usare per fare una differenziazione tra come l'America e come l'Europa stanno incentivando le aziende che vogliono fare AI.

Marinela Profi 22:23

Allora questa è la domanda che secondo me mi interessa di più, Gerta, ti dico la verità. Negli ultimi 2-3 anni tutto il lavoro che ho fatto sullo studiare il comportamento dei sistemi autonomi, svilupparli e soprattutto vedere come le persone stanno interagendo con questi è la cosa che mi ha affascinato di più.

Io, in parallelo al lavoro che svolgo per SAS, ho iniziato una ricerca personale l'anno scorso, investendo di tasca mia, per capire e studiare come le persone, a livello di individui e non aziende, stanno adottando le AI e per quali motivi stanno adottando le AI. I risultati che ho scoperto sono stati quasi scioccanti, devo dire, per me quasi scioccanti.

Ho presentato questi risultati ad Harvard, al TEDx di Harvard questo febbraio; se i tuoi ascoltatori sono curiosi lo possono trovare su YouTube, magari ti lascio il link. Mi farebbe molto piacere sentire i feedback del pubblico, creare una discussione riguardo a questa tematica.

Di base quello che sta succedendo è che le persone stanno iniziando a sviluppare un tratto caratteriale nuovo, se ho una domanda, se ho un momento di difficoltà, se mi sento insicura, se mi sento sola, se ho litigato con il mio fidanzato, con la mia amica, se devo rispondere alla mia manager che mi ha fatto arrabbiare, qualsiasi tipo di decisione o di task, la prima cosa, perché non posso dire persona, la prima cosa a cui si rivolgono sono le AI.

Quindi questo che cosa significa? Significa che stiamo assistendo a uno spostamento, a una migrazione, io la chiamo silente e globale, della fiducia umana da noi stessi, da altri umani e dalle istituzioni verso le AI. Per la prima volta nella storia dell'umanità, quando ci troviamo in situazioni di difficoltà, la cosa a cui ci affidiamo per prima è l'AI.

È una macchina che non ci conosce veramente, è una macchina che è fredda, perché è una macchina. E quindi perché questo sta succedendo e che tipo di futuro può prospettare?

Io questo mi sono chiesta nella mia ricerca, ho definito questa migrazione AI Trust Drift, proprio questo drift della fiducia umana verso sistemi di AI come primo canale, prima vado alle AI e poi vado a vivere nel mondo reale. Quindi poi mi interfaccio con un uomo, poi mi interfaccio con un'istituzione, poi mi interfaccio con me stesso anche. Però prima chiedo alle AI.

E quindi la domanda che mi sono posta è che tipo di futuro questo crea? Che tipo di futuro stiamo creando? E secondo me, quello che ho presentato anche al TEDx e quello che io credo, se noi continuiamo a questo passo a utilizzare le AI sempre come primo canale comunicativo, stiamo andando verso un futuro dove smettiamo di crescere.

So che questo può sembrare un messaggio molto forte, però la crescita è legata, se noi pensiamo alla crescita umana, crescita a livello emotivo, crescita a livello di competenze, crescita anche della nostra autostima, quindi quello che noi pensiamo di noi stessi. Noi la costruiamo in che modo?

Questa crescita noi la costruiamo facendo errori, prendendo dei rischi, fidandoci delle persone sbagliate che poi ci tradiscono, rispondendo in maniera sbagliata e poi ci prendiamo il cazziatone dal manager, andando magari in relazioni anche amorose, affettive più di quanto dovremmo.

Quindi tutti questi rischi, tutti questi sbagli, chiamiamoli così, che una persona fa nella vita, vengono completamente minimizzati, se non completamente eliminati, se noi poniamo lo strato delle AI come confidente primario dove noi andiamo a parlare.

Perché noi andiamo da un'IA, chiediamo quello che vogliamo e ci risponde molte volte, però io dico che poi rischiamo che, alla fine della nostra vita, ci guardiamo indietro e diciamo ma quante delle decisioni che ho preso nella mia vita sono state veramente mie oppure sono state influenzate dalle IA?

Se a me ChatGPT non avesse detto di lasciare il mio fidanzato o di rispondere in quel modo alla mia manager, ma oggi io chi sarei, dove sarei, cosa avrei fatto? Questo è secondo me la cosa che mi preoccupa di più e mi preoccupa soprattutto nelle generazioni giovani.

Parlo tanto con la Gen Z, la Gen Alpha, e loro mi dicono, una cosa che è emersa tra le interviste che ho fatto per la mia ricerca, che i giovani dicono se non ho ChatGPT aperto non mi sento in grado di rispondere, non so cosa dire. Quindi io dico ma l'autostima che si sta sviluppando, come la sviluppiamo?

Non la sviluppiamo, non abbiamo più un'autostima verso noi stessi, se arriviamo a pensare che senza ChatGPT, senza avere prima la risposta dalle IA, non siamo più in grado di rispondere. Questo a me preoccupa molto ed è una cosa in cui secondo me dobbiamo investire.

Come stiamo investendo nello sviluppare strumenti IA che ci rendono più produttivi, dobbiamo in parallelo sviluppare anche strumenti che ci aiutino ad educarci sul perché, quanto frequentemente e per quali motivi ci stiamo rivolgendo alle IA. Perché potremmo renderci conto che a un certo punto della nostra vita siamo diventati completamente dipendenti e quindi abbiamo smesso di crescere, ed è importante capirlo e saperlo per poi dire cosa voglio fare.

Una persona può tranquillamente dire a me va bene così, non mi interessa, voglio continuare in questo senso a usare le AI, però almeno sono consapevole che io funziono in questo modo, che io ho questa dipendenza in cui ho bisogno di andare prima dalle AI piuttosto che andare da un amico o da un'amica.

Quello che io spero e che sogno non è un futuro in cui le macchine fanno tutto, non è un futuro in cui senza le macchine noi non ci sentiamo in grado, ma sogno un futuro in cui gli esseri umani investano non più a rendere le macchine sempre più umane, ma inizino ad investire su come possiamo rendere noi umani sempre più umani, su come possiamo rimanere umani in un mondo in cui le macchine stanno prendendo sempre di più le nostre sembianze, questo è quello che io spero.

Marinela Profi 29:56

Sì, io ho il mio sito marinelaprofi.com, altrimenti la mia mail info@marinelaprofi.com oppure su LinkedIn, è un altro canale dove sono molto attiva. Ti lascerò anche il link al mio TEDx così possono dare un'occhiata alla mia ricerca, se sono curiosi.

Marinela Profi 30:23

Grazie, grazie a te Gerta, buona giornata.