پلیاستیشن با یک حساب کاربری جعلی هوش مصنوعی به شکار کاربران خطرناک میرود
پلیاستیشن با یک حساب کاربری جعلی هوش مصنوعی به شکار کاربران خطرناک میرود
دوشنبه، ۲۶ مرداد ۱۴۰۵
با وجود اینکه هوش مصنوعی در بسیاری از جنبهها برای جهان دردسرها و پیامدهای منفی به همراه داشته و افزایش هزینه حافظه نیز به این مشکلات اضافه شده است، برخی شرکتها همچنان در حال بررسی روشهایی هستند که بتوان از این فناوری به شکل مثبت و مفید استفاده کرد. یکی از نمونههای جالب در این زمینه، پتنت جدید پلیاستیشن با شماره 18/314775 است که عنوان «سیستم یکپارچگی اجتماعی مبتنی بر مدل زبانی بزرگ» را یدک میکشد.
اگر بخواهیم مفهوم این پتنت را سادهتر بیان کنیم، پلیاستیشن در حال بررسی نوعی حساب کاربری ساختگی یا شبهحساب است که میتواند برای شناسایی کاربران بالقوه خطرناک در محیط آنلاین مورد استفاده قرار گیرد. ایده اصلی این است که یک حساب کاربری ویژه توسط سیستم ایجاد شود و این حساب به شکلی رفتار کند که برای کاربران مشکوک کاملاً واقعی به نظر برسد. بر اساس توضیحات ارائهشده در این پتنت، این حساب ساختگی میتواند رفتار پیامرسانی یک قربانی بالقوه را از نظر ویژگیهای جمعیتی و الگوی ارتباطی شبیهسازی کند و در عین حال برای یک کاربر ضداجتماعی یا AS، کاملاً قانونی و واقعی به نظر برسد. برای مثال، سیستم میتواند رفتار ارتباطی افراد کمسنوسال را شبیهسازی کند و این رفتار را در محیطهایی نمایش دهد که کاربران مشکوک معمولاً به دنبال چنین ارتباطاتی هستند.
در چنین شرایطی، کاربر مشکوک ممکن است با حساب ساختگی ارتباط برقرار کند، بدون اینکه بداند طرف مقابل یک انسان واقعی نیست. این حساب میتواند بهگونهای طراحی شود که در ظاهر مانند یک حساب عادی متعلق به یک کاربر واقعی به نظر برسد. در ادامه، پتنت توضیح میدهد که حساب کاربری ضداجتماعی یا مشکوک میتواند بهعنوان یک حساب بالقوه خطرناک علامتگذاری شود. سپس سیستم میتواند منتظر بماند تا کاربر مشکوک نخستین اقدام را برای برقراری ارتباط با یک حساب واقعی انجام دهد و پیش از آنکه ارتباط نامناسبی شکل بگیرد، این اقدام را گزارش کند.
به عبارت دیگر، هدف این سیستم لزوماً این نیست که پس از وقوع یک حادثه خطرناک وارد عمل شود. ایده اصلی آن نوعی شناسایی پیشگیرانه است؛ یعنی سیستم تلاش میکند رفتارهای مشکوک را پیش از آنکه به یک تعامل نامطلوب یا خطرناک منجر شوند، شناسایی و علامتگذاری کند. یکی از بخشهای جالب این پتنت، استفاده از مدلهای زبانی بزرگ یا LLMها برای کنترل حساب ساختگی است. در متن پتنت اشاره شده که این حساب میتواند توسط یک مدل زبانی بزرگ، مانند یک ترنسفورمر از پیش آموزشدیده مولد یا GPT، کنترل شود. چنین مدلی میتواند امکان برقراری مکالمه طبیعیتر را فراهم کند و باعث شود حساب ساختگی کمتر شبیه یک سیستم خودکار و بیشتر شبیه یک کاربر واقعی به نظر برسد.
البته نکته مهم این است که ثبت این پتنت به معنای آن نیست که پلیاستیشن حتماً چنین سیستمی را در آینده نزدیک در سرویسهای خود اجرا خواهد کرد. شرکتهای بزرگ فناوری و بازیسازی معمولاً تعداد زیادی پتنت ثبت میکنند و بسیاری از این ایدهها هرگز به یک محصول یا قابلیت تجاری واقعی تبدیل نمیشوند. با این حال، ایده مطرحشده در این پتنت از یک جهت قابل توجه است؛ زیرا برخلاف بسیاری از کاربردهای بحثبرانگیز هوش مصنوعی، در اینجا هدف استفاده از هوش مصنوعی میتواند افزایش امنیت کاربران و کمک به نظارت بر رفتارهای خطرناک در محیطهای آنلاین باشد.
اما چه رفتارهایی میتوانند باعث شوند یک حساب کاربری مشکوک علامتگذاری شود؟
طبق توضیحات پتنت، دامنه این رفتارها بسیار گسترده است. ارسال هرزنامه یا اسپم، تلاش برای دریافت اطلاعات شخصی کاربران، ارسال پیامهای نامناسب، تقلب در بازیهای آنلاین، کلاهبرداری و حتی تلاش برای برقراری ارتباط با یک فرد کمسنوسال بالقوه، میتوانند از جمله رفتارهایی باشند که سیستم نسبت به آنها حساس میشود. بنابراین، سیستم صرفاً برای شناسایی یک نوع خاص از کاربر طراحی نشده است. در عوض، هدف آن میتواند شناسایی طیف وسیعی از رفتارهای مشکوک در محیط آنلاین پلیاستیشن باشد.
البته این موضوع به معنای آن نیست که هر کاربری که یکی از این رفتارها را انجام دهد، بلافاصله از سرویسهای پلیاستیشن محروم خواهد شد. بر اساس توضیحات ارائهشده، این سیستم الزاماً قرار نیست بهصورت خودکار کاربر را از پلتفرم اخراج یا حساب او را مسدود کند. همچنین تعاملات عادی و بیخطر کاربران نیز قرار نیست صرفاً به دلیل استفاده از برخی کلمات یا برقراری ارتباط با افراد دیگر مجازات شوند. در عوض، افرادی که رفتارهای تعیینشده را نشان دهند، میتوانند بهعنوان حسابهای مشکوک علامتگذاری شوند. سپس کاربرانی که با چنین حسابهایی تعامل دارند، ممکن است هشدار دریافت کنند.
این رویکرد میتواند تا حدی شبیه یک سیستم نظارت و مدیریت محتوا باشد؛ با این تفاوت که در اینجا یک حساب ساختگی نیز در فرآیند شناسایی نقش دارد. مزیت اصلی این روش این است که حسابی که قصد انجام رفتار خطرناک دارد، لزوماً متوجه نمیشود که با یک حساب ساختگی یا سیستم نظارتی تعامل میکند. از نگاه فنی، این موضوع میتواند یکی از کاربردهای نسبتاً منطقی هوش مصنوعی در صنعت بازی باشد. شبکههای اجتماعی و بازیهای آنلاین امروزی میلیونها کاربر دارند و بررسی دستی تمام پیامها و تعاملات میان آنها تقریباً غیرممکن است. به همین دلیل، استفاده از سیستمهای خودکار برای شناسایی الگوهای مشکوک میتواند به شرکتها کمک کند تا تعداد بیشتری از موارد بالقوه خطرناک را شناسایی کنند.
با این حال، چنین سیستمی بدون چالش هم نخواهد بود. یکی از مهمترین نگرانیها، احتمال تشخیص اشتباه است. اگر هوش مصنوعی یک کاربر عادی را بهاشتباه بهعنوان فرد مشکوک شناسایی کند، ممکن است برای آن کاربر پیام هشدار نمایش داده شود یا حساب او تحت نظارت بیشتری قرار بگیرد. از طرف دیگر، نحوه طراحی چنین سیستمی نیز اهمیت زیادی دارد. اگر یک حساب ساختگی بتواند رفتار کاربران خاص، از جمله افراد کمسنوسال، را شبیهسازی کند، شرکت باید اطمینان حاصل کند که این فناوری به شکلی مسئولانه و تحت قوانین مربوط به حریم خصوصی و ایمنی کاربران مورد استفاده قرار میگیرد.
موضوع دیگری که باید در نظر گرفت، میزان اعتماد کاربران به سیستمهای هوش مصنوعی است. اگر یک سیستم خودکار مسئول تشخیص رفتارهای خطرناک باشد، کاربران انتظار خواهند داشت که تصمیمهای آن دقیق، قابل اعتماد و تا حد امکان شفاف باشند. در غیر این صورت، احتمال دارد کاربران نسبت به نحوه نظارت بر فعالیتهایشان نگرانی پیدا کنند. با وجود این چالشها، استفاده از هوش مصنوعی برای مدیریت ایمنی محیطهای آنلاین میتواند مزایای قابل توجهی داشته باشد. بازیهای آنلاین امروزی فقط محیطی برای انجام بازی نیستند و بسیاری از آنها به شبکههای اجتماعی کوچک تبدیل شدهاند. بازیکنان میتوانند با یکدیگر پیام ردوبدل کنند، دوست شوند، گروه تشکیل دهند و حتی ساعتها با افرادی که در دنیای واقعی نمیشناسند، ارتباط داشته باشند.
بنابراین، ایجاد ابزارهایی برای مقابله با کلاهبرداری، آزار و اذیت، پیامهای نامناسب و سایر رفتارهای خطرناک میتواند اهمیت زیادی داشته باشد. از این منظر، پتنت جدید پلیاستیشن یکی از نمونههایی است که نشان میدهد شرکتهای بزرگ بازیسازی ممکن است به دنبال استفاده از هوش مصنوعی فراتر از تولید محتوا یا بهبود گرافیک بازیها باشند. در اینجا هوش مصنوعی میتواند نقش یک ابزار نظارتی و امنیتی را ایفا کند. با این حال، سؤال اصلی همچنان این است که آیا این ایده واقعاً به یک قابلیت قابل استفاده برای کاربران پلیاستیشن تبدیل خواهد شد یا خیر.
همانطور که گفته شد، شرکتهای بزرگی مانند سونی پتنتهای بسیار زیادی ثبت میکنند و تنها بخشی از آنها در نهایت به محصولات تجاری تبدیل میشوند. گاهی یک پتنت صرفاً برای محافظت از یک ایده یا فناوری ثبت میشود و شرکت هیچگاه آن را به مرحله تولید نمیرساند. بنابراین، فعلاً نمیتوان با اطمینان گفت که پلیاستیشن در آینده حسابهای ساختگی مبتنی بر هوش مصنوعی را وارد شبکه خود خواهد کرد. باید منتظر ماند و دید سونی در نهایت چه تصمیمی درباره این فناوری خواهد گرفت.
از سوی دیگر، برخی تصمیمهای اخیر پلیاستیشن نیز نشان دادهاند که این شرکت در حال ایجاد تغییرات مهمی در استراتژی خود است. یکی از مهمترین تصمیمها، برنامه این شرکت برای توقف تولید دیسکهای فیزیکی برای بازیهای جدید از ژانویه ۲۰۲۸ است. این تصمیم با واکنش منفی قابل توجهی از سوی بخشی از کاربران و علاقهمندان به بازیهای فیزیکی مواجه شده است. بسیاری از بازیکنان همچنان ترجیح میدهند نسخه فیزیکی بازیها را خریداری کنند؛ زیرا امکان نگهداری و معامله آنها وجود دارد و برخلاف بازیهای کاملاً دیجیتال، کاربر مالک یک نسخه فیزیکی از محصول خواهد بود.
با وجود این واکنشها، لین تائو، مدیر مالی سونی، اعلام کرده است که شرکت قصد دارد این روند را با احتیاط ادامه دهد. این موضوع نشان میدهد که سونی همچنان به سمت مدلهای دیجیتال و تغییر ساختار بازار بازی حرکت میکند، حتی اگر بخشی از جامعه کاربران با این تغییرات موافق نباشند. در مجموع، پتنت «سیستم یکپارچگی اجتماعی مبتنی بر مدل زبانی بزرگ» یکی از ایدههای جالبی است که میتواند نشاندهنده مسیر احتمالی آینده امنیت در شبکه پلیاستیشن باشد. این فناوری در صورت اجرای صحیح میتواند برای شناسایی کلاهبرداران، افراد مزاحم، ارسالکنندگان اسپم و کاربرانی که قصد برقراری ارتباط نامناسب با افراد کمسنوسال را دارند، مورد استفاده قرار گیرد.
با این حال، هنوز فاصله زیادی میان ثبت یک پتنت و عرضه یک فناوری به کاربران وجود دارد. اینکه این سیستم واقعاً در شبکه پلیاستیشن مورد استفاده قرار خواهد گرفت یا صرفاً بهعنوان یک ایده ثبتشده باقی میماند، مشخص نیست. در نهایت، همانطور که در مورد بسیاری از پتنتهای شرکتهای بزرگ فناوری اتفاق میافتد، زمان مشخص خواهد کرد که این ایده تا چه اندازه عملی خواهد شد. اگر سونی بتواند از هوش مصنوعی برای افزایش امنیت کاربران بدون ایجاد مشکل برای حریم خصوصی یا تعاملات عادی استفاده کند، این فناوری میتواند یکی از نمونههای کاربردی استفاده از هوش مصنوعی در صنعت بازی باشد.