Preskočite na glavni sadržaj
OpenAI

Sigurnost

Sigurnost na svakom koraku

Vjerujemo u potencijal umjetne inteligencije da svima poboljša život – što znači da mora biti sigurna za svakoga

Učenje

Testiranje

Podijeli

Sigurnost ne prestaje

Izgradnja sigurnih sustava umjetne inteligencije nije jednokratan posao. Svaki je dan prilika za poboljšanja. A svaki korak pomaže predvidjeti, procijeniti i spriječiti rizik.

Kako razmišljamo o sigurnosti i usklađenosti

Saznajte više

Predvodimo u području sigurnosti

Na najvažnijim pitanjima surađujemo s liderima u industriji i kreatorima politika.

Ilustracija dvaju avatara, od kojih je jedan manji od drugog, prikazuje odnos roditelja i djeteta.

Sigurnost djece

Ilustracija sunčanih naočala i šešira, koji prikazuju koncept anonimnosti i privatnosti.

Privatne informacije

Ilustracija ljudskog avatara unutar štita koji simbolizira sigurnost.

Deep fake sadržaji

Apstraktna ilustracija s nagnutom vagom i strelicama koje pokazuju smjer, predstavljajući koncept pristranosti u donošenju odluka ili evaluaciji.

Pristranost

Stilizirana ilustracija koja prikazuje glasačku kutiju u koju se ubacuje listić s kvačicom, simbolizirajući proces glasanja na izborima.

Izbori

Najnovije vijesti o sigurnosti

Parental-Controls_Art Card 1080x1080
Introducing parental controls

Proizvod

PFv2 artcard 1.1
Our updated Preparedness Framework

Publikacija

Update on disrupting > Cover
An update on disrupting deceptive uses of AI

Sigurnost

safety-blog-cover-02
OpenAI safety practices

Sigurnost

Dublje istražite sigurnost

Istražite središte za procjene sigurnosti

Sora 2 – dokument o sustavu

Napredne mogućnosti modela Sora 2 donose i nove vrste rizika, primjerice korištenje nečijeg lika bez dopuštenja ili stvaranje videa koji mogu obmanuti gledatelje. Kako bismo riješili ove probleme, surađivali smo s internim timovima za red-team testiranje (simulirane sigurnosne napade) kako bismo identificirali nove izazove i prema njima oblikovali odgovarajuće mjere ublažavanja. Sigurnosti pristupamo postupno i sustavno, s naglaskom na područja u kojima je kontekst posebno važan ili gdje se rizici tek pojavljuju i još nisu u potpunosti shvaćeni.
Saznajte više

Dodatak uz dokument o sustavu za GPT-5: GPT-5-Codex

Ovaj dodatak opisuje sveobuhvatne sigurnosne mjere provedene za GPT-5-Codex. Detaljno opisuje i mjere ublažavanja na razini modela, poput specijalizirane sigurnosne obuke za štetne zadatke i napade putem upita, te ublažavanja na razini proizvoda, poput izoliranog okruženja za agenta i prilagodljivog pristupa mreži.
Saznajte više

GPT-5 – dokument o sustavu

U ovom dokumentu o sustavu brze i visokopropusne modele označavamo kao gpt-5-main i gpt-5-main-mini, a modele za dublje rezoniranje kao što su gpt-5-thinking i gpt-5-thinking-mini. U API-ju pružamo izravan pristup modelu za rezoniranje, njegovoj mini inačici te još manjoj i bržoj nano inačici modela za rezoniranje namijenjenoj za razvojne inženjere (GPT-5-thinking-nano).
Saznajte više

Dodatak dokumentu o sustavu OpenAI o3 i o4-mini: OpenAI o3 Operator

Ovaj dodatak dokumentu o sustavu za o3 i o4-mini opisuje izdanje Operatora, agenta za rad na računalu koji može komunicirati s webom putem vlastita preglednika. Operator sad pokreće model temeljen na modelu o3 (umjesto GPT-4o), s dodatnim preciznim podešavanjem sigurnosnih značajki za rad na računalu.
Saznajte više

Dodatak dokumentu o sustavu OpenAI o3 i o4-mini: Codex

Ovaj dodatak dokumentu o sustavu za o3 i o4-mini opisuje Codex, agenta za pisanje koda u oblaku koji pokreće codex-1, precizno podešena verzija OpenAI-jeva modela o3, posebno prilagođena za zadatke softverskog inženjerstva.
Saznajte više

OpenAI o3 i o4-mini – dokument o sustavu

Ovo je prvo izdanje i prvi dokument o sustavu objavljen prema verziji 2 našeg Okvira pripravnosti. Savjetodavna skupina za sigurnost OpenAI-ja (SAG) pregledala je rezultate naših procjena u Okviru pripravnosti i utvrdila da OpenAI o3 i o4-mini ne dosežu visoki prag ni u jednoj od tri praćene kategorije: biološke i kemijske sposobnosti, kibernetička sigurnost i samopoboljšanje umjetne inteligencije.
Saznajte više

Dodatak uz GPT-4o – dokument o sustavu: generiranje slika u modelu 4o

Ovaj dodatak uz dokument o sustavu za GPT-4o opisuje rubne rizike na koje smo se usredotočili i rad koji smo uložili u njihovo ublažavanje.
Saznajte više

GPT-4.5 – dokument o sustavu

Ovaj dokument o sustavu opisuje kako smo izgradili i trenirali GPT-4.5, kako smo procijenili njegove mogućnosti i dodatno ojačali sigurnost, u skladu s OpenAI-jevim sigurnosnim procesom i Okvirom pripravnosti.
Saznajte više

Dubinsko istraživanje – dokument o sustavu

Ovo izvješće opisuje rad na sigurnosnim značajkama prije objave značajke dubinskog istraživanja (deep research), uključujući vanjsko red-team testiranje (simulirane sigurnosne napade), procjene graničnih rizika u skladu s našim Okvirom pripravnosti te pregled mjera ublažavanja koje smo ugradili kako bismo adresirali ključna područja rizika.
Saznajte više

OpenAI o3-mini – dokument o sustavu

Ovo izvješće prikazuje rad na sigurnosnim značajkama za model OpenAI o3-mini, uključujući sigurnosne evaluacije, vanjsko red-team testiranje (simulirane sigurnosne napade) i procjene u skladu s Okvirom pripravnosti.
Saznajte više

Operator – dokument o sustavu

Ovo izvješće opisuje rad na sigurnosnim značajkama prije objave Operatora, uključujući vanjsko red-team testiranje (simulirane sigurnosne napade), procjene graničnih rizika u skladu s našim Okvirom pripravnosti te pregled mjera ublažavanja koje smo ugradili kako bismo adresirali ključna područja rizika.
Saznajte više

Sora – dokument o sustavu

Ovaj dokument o sustavu opisuje skup primijenjenih mjera ublažavanja rizika, vanjske red-team provjere, evaluacije i stalna istraživanja usmjerena na daljnje poboljšavanje ovih zaštitnih mehanizama.
Saznajte više

OpenAI o1 – dokument o sustavu

Ovaj dokument o sustavu opisuje rad na sigurnosnim značajkama prije objave modela OpenAI o1 i o1-mini, uključujući vanjsko red-team testiranje (simulirane sigurnosne napade) i procjene rizika naprednih modela u skladu s našim Okvirom pripravnosti.
Saznajte više

GPT-4o – dokument o sustavu

Ovaj dokument o sustavu detaljno razmatra pretvaranje govornih upita u tekst , dok također procjenjuje mogućnosti teksta i slike.
Saznajte više