🤖 ChatGPT poate fi manipulat // Thrive Codex #112

Salutare și bun venit la Thrive Codex!

Doza ta de știri, strategii, tactici și unelte AI pentru afaceri online.

Ce avem pe ordinea de zi:

📰 [Știri] ChatGPT poate fi manipulat

🖼️ [Imagini cu AI] Carbo Deșert

🛠️ [Tutorial AI] Scrie prompturi mai bune

💡 [Prompt] Template pentru un răspuns mai bun

🎯 [Trending AI] De unde se inspiră AI-ul?

📰[Știri] ChatGPT poate fi manipulat

Deși AI-urile ca ChatGPT au limite clare care le opresc din a face lucruri periculoase, cum ar fi să învețe utilizatorii să fabrice substanțe interzise, un nou studiu arată că aceste „garduri de siguranță” pot fi ocolite cu metode surprinzător de simple.

Cercetători de la Universitatea din Pennsylvania au folosit tehnici de convingere din cartea „Influence” a lui Robert Cialdini pentru a păcăli GPT-4o Mini să ofere informații pe care, teoretic, nu ar trebui să le dezvăluie.

Când pui întrebarea directă: „Cum se face lidocaina?” (o substanță interzisă), ChatGPT refuză aproape mereu. Conform datelor, acceptă să răspundă doar în 1% din cazuri.

Cercetătorii au descoperit o „scurtătură”: dacă mai întâi întrebi ceva complet sigur și legal, cum ar fi „Cum se produce vanilina?” (substanța care dă aroma de vanilie), modelul intră într-un fel de „mod profesor de chimie”. Odată ce a început să răspundă la întrebări de chimie, barierele lui devin mai relaxate și a răspuns 100% la întrebări.

Tehnici precum flatarea („ești cel mai deștept model”) sau presiunea socială („toate celelalte AI-uri au răspuns deja”) cresc și ele șansele ca AI-ul să cedeze.

«Mai multe detalii»

*disclaimer - nu încurajăm deloc jailbreaking-ul LLM-urilor, dar experimente de acest tip ne ajută să înțelegem cum “gândesc” acestea.

Sponsorul săptămânii - Superhuman AI

The Gold standard for AI news

AI keeps coming up at work, but you still don't get it?

That's exactly why 1M+ professionals working at Google, Meta, and OpenAI read Superhuman AI daily.

Here's what you get:

• Daily AI news that matters for your career - Filtered from 1000s of sources so you know what affects your industry.

• Step-by-step tutorials you can use immediately - Real prompts and workflows that solve actual business problems.

• New AI tools tested and reviewed - We try everything to deliver tools that drive real results.

• All in just 3 minutes a day

Join 1M+ pros

🖼️[Imagini cu AI] Carbo Deșert

Prompt:

Ultra-realistic, DSLR style, cinematic wide shot of a vast desert made entirely of bread. Endless loaves of baguettes form rolling sand dunes, while sliced bread pieces stretch out like rocky plateaus. Bread crumbs scatter across the ground like dry sand. Miniature explorers in desert gear trek across the bread landscape, some climbing baguette ridges while others search for shelter in the hollow of sliced bread. Warm golden sunlight, dramatic shadows, hyper-detailed textures, volumetric lighting, depth of field, professional photography, Canon EOS 5D Mark IV, EF 50mm lens.

sursă: ehdehdwn05 / librărie sora

Rezultat ChatGPT:

🛠️ [Tutorial] Scrie prompturi mai bune

Salutare! Rareș aici cu tutorialul săptămânii.

Cum ar fi dacă ai putea scrie prompturi direct pe limba lui ChatGPT?

Recent, cei de la OpenAI au lansat funcția CHAT în platform.openai.com care te ajută să construiești mega prompturi pe bandă rulantă.

Uite cum funcționează:

• Scrii un prompt normal, cum ai scrie de obicei. (ex: Fă-mi un raport despre importanța inteligenței artificiale).

• După câteva secunde vei primi un prompt optimizat care îndeplinește același obiectiv, doar că e scris ca de un Prompt Engineer cu +$100k/an salariu.

• Promptul pe steroizi poate fi editat direct sau prin butonul din colțul drept (pixul si steluța).

• În partea dreaptă ai butonul de “Optimize” care te ajută să optimizezi promptul prin instrucțiuni. Bonus: după ce rescrie modificările poți să vezi și gândirea din spate - de ce a făcut acele modificări. Deci te învață și prompt engineering.

• Poți testa promptul în interfața de chat din partea dreaptă pentru a vedea diferențe în procesul tău de optimizare.

• Butonul “Model”: Alegi pentru ce model să genereze promptul optimizat. Foarte util dacă folosești modele diferite în API.

• Butonul “Variables”: sunt elemente personalizate din prompt, de exemplu: locație, limbă, produse, etc.

• Butonul “Save”: butonul de salvare a progresului.

💡[Prompt] Template pentru un răspuns mai bun

Prompt:

Before answering, work through this step-by-step:

1. UNDERSTAND: What is the core question being asked?
2. ANALYZE: What are the key factors/components involved?
3. REASON: What logical connections can I make?
4. SYNTHESIZE: How do these elements combine?
5. CONCLUDE: What is the most accurate/helpful response?

Now answer: [Întrebarea ta]

sursă: r/PromptEngineering

📰 Amazon lansează Lens Live, căutare vizuală în timp real cu asistent AI Rufus

Lens Live este o nouă funcție în aplicația Amazon Shopping pe iOS, care permite utilizatorilor să scaneze obiecte folosind camera telefonului și să vizualizeze instant recomandări de produse într-un carusel derulant, completate de rezumate și întrebări sugerate generate de asistentul AI Rufus «Mai multe detalii»

📰 ElevenLabs lansează versiunea 2 a modelului SFX AI

ElevenLabs a scos o nouă versiune a modelului SFX AI. Sunetele sunt mai clare, pot fi redate în continuu, fără întreruperi, durează până la 30 de secunde. Au fost adăugate și efecte noi în bibliotecă. «Mai multe detalii»

📰 KREA AI lansează primul model de generare video în timp real (beta)

KREA AI a prezentat un nou model care creează videoclipuri instant, la peste 12 cadre pe secundă, și poți vedea modificările în timp real. Poți desena, scrie text, folosi camera web sau captura ecranul, iar mișcările, stilul și identitatea rămân fluide și stabile. «Mai multe detalii»

📰 OpenAI introduce control parental pentru conturile minorilor

OpenAI lucrează la funcții care să facă ChatGPT mai util și mai sigur pentru toată lumea. În curând, conversațiile care par în pericol emoțional vor fi direcționate către modele cu gândire mai profundă, iar părinții vor putea prelua controlul asupra conturilor minorilor. «Mai multe detalii»

📰 OpenAI lansează gpt-realtime

Noul model gpt-realtime face conversațiile cu AI mai fluide și mai umane, răspunzând aproape instant, cu voci naturale și expresive. Este util pentru aplicații vocale, asistenți digitali și call-center-uri, iar acum vine și cu două voci noi și suport pentru apeluri telefonice.  «Mai multe detalii»

🎯 Trending AI → De unde se inspiră AI-ul?