پرش به محتوای اصلی
OpenAI

ایمنی

ایمنی در هر قدم

ما به پتانسیل هوش مصنوعی برای بهتر کردن زندگی برای همه اعتقاد داریم، که به معنای ایمن کردن آن برای همه است.

آموزش

We start by teaching our AI right from wrong, filtering harmful content and responding with empathy.

آزمون

We conduct internal evaluations and work with experts to test real-world scenarios, enhancing our safeguards.

اشتراک گذاری

We use real-world feedback to help make our AI safer and more helpful.

ایمنی هرگز متوقف نمی‌شود

ساختن هوش مصنوعی ایمن، یک‌بار برای همیشه تمام نمی‌شود. هر روز فرصتی است تا اوضاع را بهتر کنی. و هر گام به پیش‌بینی، ارزیابی و جلوگیری از ریسک کمک می‌کند.

چگونه در مورد ایمنی و هم‌ترازی فکر می‌کنیم

بیشتر یاد بگیرید

پیشگام در ایمنی

ما با رهبران صنعت و سیاست‌گذاران در مورد مسائلی که بیشترین اهمیت را دارند، همکاری می‌کنیم.

تصویر دو آواتار، که یکی از دیگری کوچکتر است، رابطه والدین و فرزند را به تصویر می‌کشد.

ایمنی کودکان

تصویرسازی از یک عینک آفتابی و یک کلاه، که مفهوم ناشناس بودن و حریم خصوصی را به تصویر می‌کشد.

اطلاعات خصوصی

تصویری از یک آواتار انسانی درون سپری که نشان دهنده ایمنی است.

دیپ‌فیک‌ها

یک تصویر انتزاعی با مقیاس تعادل کج و فلش‌های جهت‌دار، که مفهوم سوگیری در تصمیم‌گیری یا ارزیابی را نشان می‌دهد.

تعصب

تصویری با سبک خاص که صندوق رأی را با برگه‌ای علامت‌گذاری شده در حال قرار دادن در آن نشان می‌دهد، که نمادی از روند رأی‌گیری در انتخابات است.

انتخابات

آخرین اخبار در مورد ایمنی

Parental-Controls_Art Card 1080x1080
Introducing parental controls

محصول

PFv2 artcard 1.1
Our updated Preparedness Framework

مقالات

Update on disrupting > Cover
An update on disrupting deceptive uses of AI

ایمنی

safety-blog-cover-02
OpenAI safety practices

ایمنی

عمیق‌تر به ایمنی بپردازید

مرکز ارزیابی ایمنی را کاوش کنید

کارت سیستم Sora 2

قابلیت‌های پیشرفته‌ی Sora 2 مستلزم در نظر گرفتن خطرات بالقوه‌ی جدید، از جمله استفاده‌ی غیرمجاز از شباهت‌ها یا گمراه کردن نسل‌ها، است. برای رسیدگی به این موارد، ما با اعضای تیم‌های قرمز داخلی همکاری کردیم تا چالش‌های جدید را شناسایی کرده و اقدامات لازم برای کاهش آنها را مشخص کنیم. ما رویکردی تکراری به ایمنی در پیش گرفته‌ایم و بر حوزه‌هایی تمرکز می‌کنیم که زمینه در آنها اهمیت ویژه‌ای دارد یا خطراتی که هنوز در حال ظهور هستند و به طور کامل درک نشده‌اند.
بیشتر یاد بگیرید

ضمیمه‌ای به کارت سیستم GPT-5: GPT-5-Codex

این ضمیمه، اقدامات ایمنی جامع اجرا شده برای GPT‑5-Codex را تشریح می‌کند. این گزارش، هم راهکارهای کاهش آسیب در سطح مدل، مانند آموزش ایمنی تخصصی برای وظایف مضر و تزریق‌های سریع، و هم راهکارهای کاهش آسیب در سطح محصول مانند سندباکسینگ عامل و دسترسی به شبکه قابل تنظیم را شرح می‌دهد.
بیشتر یاد بگیرید

کارت سیستم GPT-5

در این کارت سیستم، مدل‌های سریع و با توان عملیاتی بالا را با عنوان gpt-5-main و gpt-5-main-mini و مدل‌های تفکر را با عنوان gpt-5-thinking و gpt-5-thinking-mini برچسب‌گذاری می‌کنیم. در API، ما دسترسی مستقیم به مدل تفکر، نسخه کوچک آن و یک نسخه نانو حتی کوچک‌تر و سریع‌تر از مدل تفکر، که برای توسعه‌دهندگان ساخته شده است (gpt-5-thinking-nano)، را فراهم می‌کنیم.
بیشتر یاد بگیرید

ضمیمه‌ای به کارت سیستم OpenAI o3 و o4-mini: اپراتور OpenAI o3

این ضمیمه به کارت سیستم o3 و o4-mini، انتشار Operator، یک عامل استفاده‌کننده از کامپیوتر که قادر به تعامل با وب از طریق مرورگر خود است را شرح می‌دهد. اپراتور اکنون از یک مدل مبتنی بر o3 (به جای GPT-4o) با تنظیم دقیق ایمنی پیشرفته برای استفاده در رایانه بهره می‌برد.
بیشتر بدانید

ضمیمه‌ای به کارت سیستم OpenAI o3 و o4-mini: Codex

این ضمیمه به کارت سیستم o3 و o4-mini، Codex را توصیف می‌کند، یک عامل کدنویسی مبتنی بر ابر که توسط codex-1، نسخه‌ای تنظیم‌شده از مدل o3 OpenAI که به‌طور خاص برای کارهای مهندسی نرم‌افزار طراحی شده است، پشتیبانی می‌شود.
بیشتر بدانید

کارت سیستم OpenAI o3 و o4-mini

این اولین کارت راه اندازی و سیستم است که تحت نسخه 2 چارچوب آمادگی ما منتشر می شود. گروه مشاوره ایمنی OpenAI (SAG) نتایج ارزیابی‌های آمادگی ما را بررسی کرد و تشخیص داد که OpenAI o3 و o4-mini در هیچ یک از سه دسته ردیابی شده ما: قابلیت بیولوژیکی و شیمیایی، امنیت سایبری و خودبهسازی هوش مصنوعی، به آستانه بالا نمی‌رسند.
بیشتر یاد بگیرید

ضمیمه کارت سیستم GPT-4o: تولید تصویر 4o

این ضمیمه به کارت سیستم GPT‑4o، خطرات حاشیه‌ای که ما بر آنها تمرکز کرده‌ایم و کارهایی که برای رفع آنها انجام داده‌ایم را شرح می‌دهد.
بیشتر یاد بگیرید

کارت سیستم GPT-4.5

این کارت سیستم، نحوه ساخت و آموزش GPT‑4.5، ارزیابی قابلیت‌های آن و تقویت ایمنی را با پیروی از فرآیند ایمنی و چارچوب آمادگی OpenAI شرح می‌دهد.
بیشتر یاد بگیرید

کارت سیستم تحقیقات عمیق

این گزارش، کارهای ایمنی انجام‌شده قبل از انتشار تحقیقات عمیق، از جمله تشکیل تیم قرمز خارجی، ارزیابی ریسک‌های مرزی طبق چارچوب آمادگی ما و مروری بر اقدامات کاهشی که برای رسیدگی به حوزه‌های کلیدی ریسک در نظر گرفته‌ایم، را شرح می‌دهد.
بیشتر بدانید

کارت سیستم OpenAI o3-mini

این گزارش، کارهای ایمنی انجام‌شده برای مدل OpenAI o3-mini، شامل ارزیابی‌های ایمنی، تیم قرمز خارجی و ارزیابی‌های چارچوب آمادگی را شرح می‌دهد.
بیشتر بدانید

کارت سیستم اپراتور

این گزارش، کارهای ایمنی انجام شده قبل از انتشار اپراتور، از جمله تشکیل تیم قرمز خارجی، ارزیابی ریسک‌های مرزی طبق چارچوب آمادگی ما و مروری بر اقدامات کاهش ریسک که برای رسیدگی به حوزه‌های کلیدی ریسک در نظر گرفته‌ایم، را شرح می‌دهد.
بیشتر بدانید

کارت سیستم Sora

این کارت سیستم، مجموعه اقدامات کاهش ریسک حاصل، تلاش‌های تیم قرمز خارجی، ارزیابی‌ها و تحقیقات مداوم برای اصلاح بیشتر این اقدامات حفاظتی را تشریح می‌کند.
بیشتر بدانید

کارت سیستم OpenAI o1

این گزارش، کارهای ایمنی انجام شده قبل از انتشار OpenAI o1 و o1-mini، از جمله تشکیل تیم قرمز خارجی و ارزیابی ریسک‌های مرزی را طبق چارچوب آمادگی ما، تشریح می‌کند.
بیشتر بدانید

کارت سیستم GPT-4o

این کارت سیستم نگاهی دقیق به گفتار به گفتار دارد و در عین حال قابلیت های متن و تصویر را نیز ارزیابی می کند.
بیشتر بدانید