OpenAI سرویس ساخت ویدیوهای غیر اخلاقی با هوش مصنوعی را ارائه می‌دهد!

مسئله استفاده از هوش مصنوعی و دیپ فیک در ساخت محتوای غیر اخلاقی از چهره های سرشناس، به خودی خود اساسا این روزها به یک مشکل بزرگ مبدل شده است. در این هیاهو، OpenAI به طور رسمی اعلام کرده است که به زودی امکان ساخت محتوای غیر اخلاقی، با استفاده از هوش مصنوعی را به کاربران خود در سراسر جهان خواهد داد! با مازستا همراه باشید.

ویدیوهای غیر اخلاقی با هوش مصنوعی

شرکت‌های اصلی تولیدکننده هوش مصنوعی در استفاده از فیلترها و محدودیت های برجسته سخت‌گیرانه عمل می‌کنند تا کاربران را از تولید هرزه‌نگاری و سایر محتوای مشابه بازدارند، اما OpenAI، توسعه‌دهنده ChatGPT و DALL-E، در نظر دارد این عمل را مجاز کند. هرچند محدودیت هایی وجود خواهد داشت، از جمله ممنوعیت ایجاد دیپ فیک.

پس از داستان عجیب و نگران کننده انتشار تصاویر و ویدیوهای مستهجن و ساختگی از تیلور سوئیفت، خواننده سرشناس، نه تنها صاحبان رسانه، وب سایت و شبکه های اجتماعی از جمله X یا توییتر سابق را نگران و شوکه کرد، بلکه حتی دولت هایی مانند دولت آمریکا و انگلستان را به واکنش واداشت. تصاویر برهنه و غیر اخلاقی از تیلور سوئیفت، که بعدها مشخص گردید که با استفاده از هوش مصنوعی و دیپ فیک ایجاد و تولید شده اند، به سرعت در شبکه اجتماعی X دست به دست شدند.

متاسفانه سپرهای حفاظتی و نظارتی شبکه X نیز در بدو ورود قادر به حذف و جلوگیری از انتشار این تصاویر نشده و به همین علت موجی از انتقادات به سمت این شبکه اجتماعی روانه شد. اما باید گفت که ساخت ویدیوهای غیر اخلاقی تنها محدود به تیلور سوئیفت نبوده و تعداد زیادی از بازیگران، خوانندگان و شخصیت های مشهور نیز در دام سودجویان و افرادی با عدم ثبات روانی افتاده اند.

نه تنها این گروه از افراد مشهور، بلکه بسیاری از مردم عادی، حتی در ایران نیز با مشکل ساخت تصاویر، ویدیوهای فیک و ایجاد تصاویر مستهجن تقلبی روبرو هستند. در حالی که دولت ها در حال فشار به کمپانی های فعال در حوزه هوش مصنوعی هستند، ویدیوهایی از افراد سیاسی با دیالوگ هایی متفاوت نیز یک دردسر دیگر در این حوزه است.

با تمام این تعاریف، ساخت محتوای غیر اخلاقی با استفاده از هوش مصنوعی، یکی از عجیب ترین نیازهای برخی کاربران در این بخش است. در همین راستا، OpenAI اعلام کرده است که به زودی امکان ساخت ویدیوهای غیر اخلاقی، با هوش مصنوعی و نه دیپ فیک را به کاربران خواهد داد. با این وجود محدودیت هایی متوجه این سرویس جدید است. به عنوان مثال امکان ایجاد دیپ فیک برای کاربران وجود ندارد.

همچنین امکان ساخت ویدیوهای غیر اخلاقی از افراد سرشناس وجود ندارد. ظاهرا نمی توان چهره دقیق و مشخصی را برای ساخت این ویدیوها انتخاب کرد. Joanne Jang، مدیر عامل OpenAI در این رابطه گفت: ما مطمئن خواهیم بود که کاربران هیچ محتوای غیر مسئولانه ای را در این حوزه تولید نکرده و به هیچ وجه اتفاقی مانند رویداد تیلور سوئیفت روی نخواهد داد.

جالب است بدانید که در هفته های اخیر، مایکروسافت نیز در پی حادثه تیلور سوئیفت و ساخت ویدیوهای جعلی از برهنگی و هرزه نگاری، تغییراتی را در ابزارهای تولید متن به محتوای خود ایجاد کرد. به هر حال در شرایط حساس کنونی که بسیاری از کاربران به دنبال آن هستند که به دیگران تقلبی بودن ویدیو و تصاویر برهنگی خود را ثابت کنند، OpenAI به زودی سرویسی از AI Porn را برای کاربران در سراسر جهان منتشر خواهد کرد!