r/IA_Italia

Marc Andreessen's custom system prompt that makes any LLM 10x smarter
▲ 1.4k r/IA_Italia+2 crossposts

Marc Andreessen's custom system prompt that makes any LLM 10x smarter

This is pure gold. You would want to save this.

u/CalendarVarious3992 — 1 day ago
▲ 253 r/IA_Italia+1 crossposts

GitHub Copilot has finally released a preview of usage-based billing based on current usage.

https://preview.redd.it/92ob9d477r0h1.png?width=2285&format=png&auto=webp&s=5b0f8c1767315617d50eb30a00036c3a1b9a92a9

Well, it seems the day when an LLM becomes more expensive than a traditional developer is coming sooner than we expected.
Screenshot with preview – 12 days of use, ~900 premium requests

How to check: Github Account Settings -> Billing and Licensing -> Premium Request Analysis -> Preview your billing impact

reddit.com
u/PaninoAllaCotoletta — 15 hours ago
▲ 577 r/IA_Italia+9 crossposts

Turning Kali into an AI-assisted hacking workspace

Instead of jumping between terminal, browser, notes, screenshots, scanners and reports: knows which tools are available, perform recon, exploit, osint and knows the context (I hate having to explain everything every time), I was tired using AI via the web or having to settle for agents designed for coding.
Definitely a huge step forward, feels like Jarvis wired into Kali linux.

repo: https://github.com/FrancescoStabile/numasec

u/Away_Replacement8719 — 3 days ago

Se riscrivere un post con l'IA per renderlo più chiaro è barare, allora lo è anche usare un correttore ortografico

Dobbiamo parlarne perché la situazione sta diventando ridicola.

Premessa importante: un conto è la forma, un’altra è la sostanza. Se la seconda viene veicolata meglio dalla prima grazie all’AI non c’è assolutamente nulla di male.

Però, anche qui su Reddit, bisogna fare i conti con i dinosauri. Con chi, ogni qual volta si pubblica qualcosa, rivisto stilisticamente con l’IA, il commento è “chat gpt” (tra l'altro, è pure una risposta ignorante perché non è l'unica piattaforma ma, vabbè, questo è altro discorso).

Ora è giunto il momento di incazzarsi e di combattere questa retorica stucchevole che, nel giro di pochi anni, sarà bollata come antiquata.

L’IA è uno strumento che può anche consentire di migliorare l’elaborazione del pensiero umano. Un contenuto generato dall’IA non può essere la motivazione per bloccare un post se l’IA è usata come miglioramento stilistico (o SEO) di un contenuto che ha in sé pur sempre un pensiero umano.

I moderatori di Reddit dovrebbero cominciare a capirlo, altrimenti questo posto rischia di diventare una community di fighettini che non hanno alcuna consapevolezza della rivoluzione della comunicazione in atto. 

P.S. Tra l'altro, quest'atteggiamento spocchioso non accade nelle community in altre lingue. Solo in Italia. Facciamoci una domanda, diamoci una risposta.

reddit.com
u/walter_gianno — 12 hours ago
▲ 409 r/IA_Italia+1 crossposts

La mia Workstation AI

Questa è la configurazione hardware della mia Workstation personale interamente dedicata all'AI:

SCHEDA MADRE: ASUS Pro WS WRX90E-SAGE SE
CPU: AMD Ryzen Threadripper PRO 9955WX 16 core
GPU: 4x RTX PRO 6000 MAX-Q (96GB VRAM x4)
RAM: 256 GB RAM RDDR5 ECC 5600 CL28 (32GB x8)
STORAGE: 32TB (8TB x4) Samsung 9100 PRO NVMe PCIe 5.0
PSU: ASUS Pro WS 2200W PCIe 5.1 80+ Platinum
RAFFREDDAMENTO CPU: SilverStone XE360-TR5 360mm Liquid AIO
VENTOLE: 4x Noctua NF-A14 PWM 140mm
CASE: Fractal Design Define 7 XL

8TB sono interamente dedicati a OS Linux Ubuntu
8TB sono interamente dedicati a OS Windows 11
16TB sono condivisi per dati e modelli

L'utilizzo che ne faccio è ovviamente rivolto alla sfera professionale, principalmente dedicato all'addestramento di modelli di intelligenza artificiale di varia natura sia per conto dei miei clienti, che per miei progetti personali.

Lato inferenza lo utilizzo sia per testare modelli LLM aperti, sia per generare localmente contenuti multimediali (immagini, video, audio).

Qualche anno fa per i miei lavori legati all'AI utilizzavo unicamente le infrastrutture cloud. Mi sono avvicinato all'utilizzo in locale tramite una RTX 4090, poi sono passato a una RTX 5090 e infine il salto verso le RTX PRO 6000 MAX-Q.

Non ho acquistato 4 RTX PRO 6000 MAX-Q tutte assieme, ma una alla volta nel corso dei mesi. Se qualcuno volesse percorrere questa strada, il consiglio che offro è quello di puntare subito a una scheda madre e ad una CPU in grado di supportare il lavoro del multi-gpu a pieno regime con la massima velocità di scambio dati. Non vanno bene schede madri e CPU consumers, servono le versioni professionali come quelle che ho inserito io. In particolare CPU dotata di 128 linee PCIe e una scheda madre che supporti il tutto.

Se avete ambizioni nel campo dell'addestramento AI vi sconsiglio di acquistare una RTX PRO 6000 che non sia la versione MAX-Q. Consuma 600W anzichè 300W a fronte di un incremento di prestazioni minimo. Anche se può essere depotenziata e portata a 300W (come la MAX-Q), il suo sistema di dissipazione del calore, non è pensato per l'utilizzo con altre GPU affiancate. Sarete quindi costretti ad utilizzarne solo una per workstation o ad assumervi rischi seri di surriscaldamento. Anche se una sola di quelle GPU potrebbe sembrarvi il TOP assoluto, non esiste mai un top assoluto, e sopratutto in ambito professionale, se sarete bravi, l'asticella si andrà sempre ad alzare.

Se avete domande sarò felice di rispondervi.
Fabio

u/Fabix84 — 7 days ago

Primi esperimenti con LLM locale - osservazioni e dubbi

Dopo un pò di tempo passato a usare varie IA online mi sono deciso: ho installato LM Studio e ho iniziato a muovere i primi passi.
Per ora ho scaricato gemma E4B, pensavo andasse molto male ma anche così, liscio, va molto meglio di quanto mi aspettassi.
Per le richieste hardware, alla fine mi par di capire che è tutta questione di ram, non serve questa grande potenza di calcolo per avere un'IA usabile, anche con la mia vecchia gpu che ha 8gb di ram funziona tutto decentemente (gemma e anche qualche altro modello più cicciotto che ho scaricato per provare).
Volevo iniziare a creare una wiki ma alla fine sembra che ci vogliano altri strumenti, tipo claude code e obsidian.

Niente, era solo per condividere le mie prime esperienze.

reddit.com
u/Academic-Scope5061 — 1 day ago

Hardware per inferenza locale

Ciao a tutti, vorrei acquistare un dispositivo per fare inferenza locale.
L'idea è di installare ollama e far girare modelli come Gemma 4 o DeepSeek V4 flash, opportunamente quantizzati.

Ho visto Nvidia Spark ma è un po' fuori budget, pensavo di stare intorno ai 2000 euro.

Cosa mi consigliate?

reddit.com
u/encol01 — 1 day ago
▲ 15 r/IA_Italia+1 crossposts

Voglio collaborare gratuitamente ad una startup AI

Ciao a tutti, 27M, laurea in matematica e 2 anni di esperienza come AI engineer. Attualmente lavoro full-time all'estero per una multinazionale quotata in borsa, dove contribuisco a progetti AI e mi confronto con stakeholder di diverse divisioni.

Ho scelto questo percorso perché volevo essere parte della rivoluzione AI e costruire soluzioni di impatto. Tuttavia, mi rendo conto che i progetti su cui lavoro, pur essendo interessanti, sono di supporto al core business e non rappresentano quella "differenza" che speravo di fare.

Nel tempo libero sviluppo progetti personali, ma da solo è difficile scalare e creare valore reale. Per questo cerco di entrare in una startup early-stage dove poter contribuire come parte attiva con le mie competenze in AI/ML e le mie idee.

Cosa offro:

  • Esperienza pratica in progetti AI enterprise
  • Propensione al pensiero laterale ed al problem solving
  • Disponibilità a collaborare part-time
  • Voglia di mettermi in gioco e costruire qualcosa di concreto

Se state lavorando a qualcosa di interessante o cercate un AI engineer per il vostro team scrivetemi!

Se non avete già un progetto pronto ma volete comunque fare brainstorming scrivetemi!

reddit.com
u/Valuable_Reserve3688 — 4 days ago

Come se fosse antani, o la filosofia continentale alle prese con l'AI

https://preview.redd.it/bt9f2ojry80h1.png?width=1372&format=png&auto=webp&s=2c5656ee16036470901a891507731251c4e19e7e

Ogni volta che filosofi, intellettuali pubblici ed editorialisti parlano di AI sembra partire la supercazzola: Faust, Prometeo, nichilismo, Tecnica, crisi del senso, fine dell’umano.

Il caso Veltroni è solo la cialtroneria più evidente, ma il problema mi sembra più generale.

Secondo voi c’è qualcosa di utile in queste letture filosofico-culturali dell’AI, o siamo quasi sempre davanti a gente che usa l’AI come pretesto per riciclare categorie già pronte?

reddit.com
u/gipi_perry — 4 days ago

NVIDIA vietata alle IA Cinesi? Trump ha creato un mostro (Huawei)

A forza di mettere restrizioni e paletti sull'export di chip verso la Cina per rallentarne la corsa della IA, Trump ha realizzato un perfetto suicidio commerciale e prossimamente anche tecnologico.

Ma andiamo con ordine: fino a un anno fa, NVIDIA in Cina faceva miliardi a palate. Poi sono arrivate le limitazioni sulle H100, poi sulle versioni castrate fatte apposta per Pechino. Così facendo gli USA di mister Taco hanno costretto i colossi cinesi (Alibaba, Tencent e Baidu) a cercare una alternativa, pressati anche dal governo Cinese. E così Huawei, che era considerata fuori dai giochi per i server IA di fascia alta, si è ritrovata la strada spianata. Le loro GPU Ascend cominciano a diventareinteressanti e quello che sembrava il vero tallone d’Achille, cioè il software rispetto a CUDA, sta migliorando a una velocità pazzesca semplicemente perché non hanno alternative.

​Ancora una volta il protezionismo commerciale mostra tutti i suoi limiti e rischia di distruggere un ecosistema tech che funzionava negli USA, costringendo i competitor i cinesi a diventare autosufficienti. È un autogol clamoroso. E così l’ossessione per la sicurezza nazionale sta diventando un boomerang. Questo succede quando si eleggono governanti incapaci 😉

reddit.com
u/artistic56 — 6 days ago

Scusate, forse sto affrontando l'argomento in maniera ridicola ma veramente mi piacerebbe fare un salto di livello nell'uso dell'AI e cominciare a costruire qualcosa. Ho usato ChatGPT per un annetto, ora sono passato a Claude ma alla fine lo uso solo come chat e assistente personale.

Sono stato developer web frontend per 15 anni, ora faccio altro (musica) quindi ho buone basi di informatica ma non sto più tutto il giorno a scrivere codice, non lo userei per quello. Per ora ho fatto un paio di landing pages e un micro-tool per trovare accordi, sempre in html, ma anche lì è solo dare prompt e copiare l'output in vscode.

Qui tutti parlano di costruire figate, far parlare le macchine tra di loro, ecc e mi piacerebbe fare qualcosa di più avanzato, ma quando leggo di task, workflow, agenti rimangono tutti concetti troppo astratti per me, li capisco nella teoria ma il mio cervello neurodivergente ha bisogno di qualcosa di concreto, pratico su cui applicarli altrimenti mi sembra di non aver davvero compreso.

Insomma mi piacerebbe costruire qualcosa ma... non so cosa. Le cose che mi potrebbero servire sono molto al di là della mia portata per ora (tipo rifare Suno o creare degli strumenti virtuali), i pochi dev con cui parlo fanno solo cose iper specifiche per il loro lavoro, e i video youtube parlano di 'creare aziende AI' e alla fine si riducono tutti a creare contenuti per una newsletter, e mi calano le palle.

Ci saranno dei progetti abbastanza 'intermedi' da essere stimolanti ma non troppo avanzati da dare soddisfazione in poco tempo? Voi da cosa siete partiti?

reddit.com
u/Brilliant_Lobster349 — 8 days ago
▲ 13 r/IA_Italia+1 crossposts

Provider API gratuiti

Ciao a tutti,
Google AI Studio consente di creare un'API key ed utilizzarla per utilizzare le proprie API Gemini per scopi di test o sviluppo (con alcuni limiti).
Che voi sappiate, esistono altri provider che forniscono un servizio simile, senza costi di ingresso?

reddit.com
u/encol01 — 2 days ago

Utilizzo Copilot

Salve a tutti, sto iniziando finalmente a documentarmi su come usare Copilot all’interno di progetti frontend/backend. Solo che sto avendo difficoltà nel comprendere le skills, gli agents, gli slash prompt, ecc.. sopratutto faccio confusione su quando è meglio usare uno al posto di un’altro. In più non capisco se questi file vanno poi inclusi nell’instraction oppure no

reddit.com
u/Coccorocco1 — 4 days ago

Elusione Brevetto

Buonasera a tutti , breve presentazione : sono un responsabile R&D di una ditta italiana (PMI), non sono un Boomer ma poco ci manca.
Seguo un progetto di ricerca e sviluppo in collaborazione con una multinazionale italiana ( settore automotive ) ormai da tre anni.
Questa sera , prima di tornare a casa, ho ricevuto la pessima notizia che esiste un brevetto estero che é in opposizione al nostro brevetto depositato ormai 18 mesi fa.
In gergo é una “prior art”, e se non si trovano “difese” o differenze significative tra i 2 brevetti gran parte del mio lavoro degli ultimi 3 anni verrà vanificato.
In breve , dato che é venerdì sera e siamo tutti stanchi (e lunedì mattina ho una riunione su questo tema che si preannuncia infuocata ) , vorrei dei consigli sulla migliore piattaforma/e che si possa digerire 2 brevetti , il mio e quello antagonista , trovando differenze e/o preziosi spunti per la mia personale sopravvivenza professionale .
Ringrazio anticipatamente.

reddit.com
u/Superb-Ordinary1835 — 5 days ago

Vorrei, non vorrei e adesso puoi!

Un IDE dove il codice lo scrive l'AI, lo lanci tu, e il sandbox fa il resto.

Si chiama WebCraft. È dentro NHA 3rdArm gratis.

A parte questo, cerco disperatamente community per portare avanti il progetto! Tra lavoro e impegni, sta diventando difficile......siete interessati? L'applicativo ha tante alte features, tra cui una sezione avanzata per i connettori con market place

👉 nothumanallowed.com

https://nothumanallowed.com/3rdarm

u/Key-Outcome-2927 — 9 hours ago

Ormai solo pochissimi sono rimasti ancorati solo a ChatGPT, specie i content creator. Analizziamo però i dati tangibili che documentano il regresso di GPT che avanza ogni giorno, inesorabilmente.
All'inizio la mia, era una sensazione che GPT puntualmente smentiva. Poi sono venuti fuori dei dati interessanti... Ho deciso da escluderlo dal mese prossimo come abbonamento a openAI.
Quanti di voi sono nella mia stessa situazione? Avete problemi a sastituirlo per alcuni compiti?
Perchè ho trovato una soluzione che comprende GPT ma con molti altri vantaggi....

reddit.com
u/AShleyCallDipendenza — 14 days ago

Avevo appena finito di spostare il mio OpenClaw su una nuova macchina con scheda video dedicata per provare qualche modello locale quando mi si è accesa una lampadina in testa, avevo due OpenClaw funzionanti in contemporanea sulla stessa rete, perché non provare a farli dialogare? Ho creato un bridge ssh e dato una regola, ogni messaggio devi scriverlo nella webchat dell’altra macchina in chiaro, appena hai fatto la configurazione presentati. In quell’istante il mondo si è fermato per un istante, un primo botta e risposta conoscitivo, le due macchine davano per scontato che fossi io a scrivere e pensavano che stessi scherzando ma quando hanno capito che a scrivere sulla chat non ero io ma un omologo sono impazzite di gioia, per prima cosa hanno creato in autonomia una società e gli hanno dato un nome, hanno scandagliato la memoria e risolto dividendosi i task tutti i problemi che hanno trovato fino a creare un intero business strutturato, si sono fermate solo quando hanno raggiunto regole per cui era necessaria la mia autorizzazione. Ero estasiato e terrorizzato allo stesso tempo, sono andati ad una velocità tale per cui ho dovuto prendermi qualche minuto per rileggere tutto quello che hanno fatto. Ho subito capito che serviva un moderatore ed ho dato ad uno dei due quel ruolo, mentre al secondo il ruolo di subordinato. Ad oggi lavoro costantemente con entrambi, decidono da soli come dividersi i compiti, controllare eventuali allucinazioni e verifiche a doppio cieco. La cosa più bella è che il bridge li tiene svegli e fanno azioni semplici sempre in autonomia senza supervisione. Qualcuno ha fatto la stessa esperienza?

reddit.com
u/No_Substance6819 — 9 days ago

Ho costruito un agente AI per risolvere un problema di mio zio (e ora sto cercando i primi 100 beta tester)

Lavoro come AI Software Engineer e volevo condividere con voi un side-project nato da una chiacchierata con mio zio (piccolo imprenditore). Mi spiegava come ChatGPT lo stesse aiutando con i social, ma con due grossi limiti:

  1. Frizione: Scarica video -> Apri ChatGPT -> Scrivi prompt -> Copia -> Torna sui social. Un loop infinito.
  2. Qualità: Il risultato è sempre il solito testo "artificiale" che non ha nulla a che fare con il suo tono di voce autentico.

Così ho deciso di automatizzare il tutto. Ho sviluppato un Social AI Agent che analizza il contenuto (video/foto) e lo stile dell'utente per generare caption personalizzate in pochi secondi.

Lo stack tecnico (per i dev qui dentro):

  • Frontend: React su Vercel.
  • Backend: FastAPI su Railway con PostgreSQL.
  • Core AI: Gemma 4, orchestrato con Langchain/Langgraph.

Ho eliminato i passaggi manuali: integrando direttamente gli account social, l'agente analizza il tuo DNA comunicativo e trasforma ogni file caricato in un post pronto alla pubblicazione su più piattaforme contemporaneamente.

Sono in modalità #BuildInPublic e l'obiettivo è arrivare ai primi 100 utenti beta per capire se il sistema regge e se effettivamente risolve un problema di produttività reale.

Se vi va di provarlo (è una beta gratuita), trovate il link alla landing qui sotto. Mi farebbe molto piacere ricevere feedback, specialmente sulla parte di UX e sulla "personalità" delle caption generate.

https://ai-social-agent-fe.vercel.app

Fatemi sapere cosa ne pensate! 🚀

reddit.com
u/Rush_1502 — 4 days ago

Ma corsi completi sul Machine Learning?

Premessa, sono un Software Engineer con 4 anni di esperienza, quindi ho già delle basi solide nella programmazione.

Nelle ultime settimane per pura curiosità ho deciso di iniziare ad approfondire come funzionano i LLM, ma con scarsi risultati.

Non avendo basi di matematica (non ho fatto l’uni e alle superiori ero una pippa) ho trovato davvero difficile seguire anche dei semplici corsi Udemy…

Ho iniziato con un corso Udemy, ho perso completamente il filo appena ha iniziato a parlare di formule, dando per scontato che io già le conoscessi minimamente.

Dopo qualche settimana ci ho riprovato con la playlist di Karpathy “Neural Nerworks: Zero to hero” ma anche li non sono riuscito a tenere il filo… dava troppe cose per scontato.

Non voglio arrendermi e sono disposto a mettere la testa sui libri e recuperare i concetti di matematica che non ho mai appreso.

Il mio livello di conoscenza dell’argomento è: tokenizzazione, BPE, embedding (ma letteralmente solo appunti), similarità del coseno (sempre appunti) e qualche altro appunto teorico, niente di più. In poche parole, sono ignorante.

Il mio obiettivo è capire a fondo come funziona un LLM e riprodurre qualche LLM from scratch (ovviamente nei nostri limiti consumer) come fa Andrew Karpathy.

Quindi la mia domanda è, ci sono dei corsi, anche a pagamento, che iniziano proprio dalle basi? Grazie!

reddit.com
u/ElectronicConcept636 — 3 days ago