Ciao, dico anch'io la mia esperienza.
all'inizio l'ho abbastanza ignorata fino al 2025 quando ho fatto un abbonamento gratuito per un anno a Perplexity pro. Perplexity è più un AI incentrata nella ricerca di informazioni nel web, e io che sono uno che cerca tantissimo di tutto e di più nel web l'ho voluta provare trovandomici subito molto bene.
L'azienda per cui lavoro (studio di progettazione navale) ha partecipato ad un bando finanziato dalla regione Veneto, permettendomi di frequentare un corso sull'AI, aprendomi un mondo che prima ignoravo. Finito il corso sono stato "nominato" all'interno dell'azienda per sviluppare agenti AI dedicati al nostro lavoro, in grado di spulciare le centinaia di regole e normative (RINA, Solas, MSC, Fincantieri ecc...) spesso anche personalizzate per commessa. Così ho iniziato con ChatGPT (business perché rispetta il GDPR avendo dati riservati e che non dovrebbero uscire dalle mura dell'azienda), però è stato in gran parte abbandonato nel giro di poco tempo per due motivi:
1) Avendo centinaia di documenti di normative anche per una sola nave, ChatGPT non mi permetteva di caricarli tutti. Inoltre abbiamo potuto vedere che se il documento è molto lungo, fallisce nell'estrarre le informazioni alle domande molto specifiche degli ingegneri (cosa pericolosa, soprattutto quando ometteva informazioni importanti).
2) Io, che personalmente sono uno a cui non piace per nulla inviare dati personali in giro per il mondo senza averne il pieno controllo, figuriamoci ad una AI, ho spinto tantissimo per avere l'AI locale dentro all'azienda.
Avendo già molta esperienza personale nella gestione in locale di molti servizi (a casa da anni ho un server completo che io e alcuni miei amici usiamo come sostituto per le ricerche web, per google drive, per google foto, per netflix/prime video e tra poco anche per le AI), ho realizzato un pc, con hardware datato raccattato dai scaffali e scrivanie dell'azienda, in grado di gestire localmente un LLM con tutti i nostri documenti e regolamenti navali e con le giuste ottimizzazioni sono riuscito a renderlo sufficientemente veloce e preciso.
Questa soluzione in azienda è piaciuta molto e funziona, perché il sistema è completamente chiuso e isolato da internet evitando che i dati escano dai muri dell'azienda o che i dipendenti la usino per scopi non inerenti al lavoro, ho pieno controllo sugli aggiornamenti e sulle performance del software, non ho limiti o costi imposti da aziende terze. In sostanza abbiamo piena autonomia su uno strumento che si sta rilevando molto utile.
Invece, per il mio server personale, sono in fase di acquisto di hardware dedicato e poi volevo realizzare, tra le varie cose, un agente AI con tutta la manualista del Discovery e le guide del forum

. Se funzionerà bene, potrei anche condividerlo qui nel forum ad uso gratuito come tutte le cose che faccio
