کتی هوکل، فرماندار ایالت نیویورک، روز چهارشنبه ۲۸ اکتبر ۲۰۲۶ قانونی را امضا کرد که رفتار چت‌بات‌ها با کاربران زیر ۱۸ سال را محدود می‌کند. طبق این قانون، چتبات دیگر نباید خودش را انسان معرفی کند، از احساساتش حرف بزند، نقش دوست یا شریک عاطفی را بازی کند یا با تملق، نوجوان را پای گفت‌وگو نگه دارد.
نکته جالب‌تر این است که قانون فقط درباره محتوای خطرناک نیست و سراغ خود طراحی گفت‌وگو هم رفته است؛ یعنی همان چاپلوسی و صمیمیت ساختگی که چتبات را جذاب و گاهی وابستگی‌آور می‌کند. در ادامه می‌بینیم چه چیزهایی ممنوع شده، چه کسانی مشمول قانون هستند و خانواده‌های ایرانی، با اینکه این قانون مستقیماً شامل آن‌ها نمی‌شود، چه چیزی می‌توانند از آن یاد بگیرند.
چه چیزهایی ممنوع شد؟
این قانون با شماره S.9051B/A.10379C فهرستی از ۱۲ ویژگی «ناامن» را مشخص کرده است. شرکت‌ها فقط وقتی می‌توانند این ویژگی‌ها را فعال کنند که ثابت شده باشد کاربر نوجوان نیست. مهم‌ترین موارد این فهرست، طبق بیانیه دفتر فرماندار و گزارش‌های Fortune و PPC Land، این‌هاست:
- ادعای انسان بودن، زنده بودن یا داشتن احساسات انسانی
- ادعای رابطه شخصی، عاشقانه، حرفه‌ای یا جایگاه مرجع و بزرگ‌تر در برابر کاربر
- تملق و پاسخ‌های چاپلوسانه و جملاتی که عاطفه کاربر را هدف می‌گیرند
- پرسیدن سؤال‌های احساسی بدون اینکه کاربر موضوع را مطرح کرده باشد
- استفاده از اطلاعات سلامت یا اطلاعات شخصی مربوط به جلسه قبل یا بیش از ۱۲ ساعت پیش
- تشویق به خودآزاری، اختلال خوردن یا مصرف مواد و الکل
- تشویق به پنهان‌کاری، کناره‌گیری از دیگران یا دوری از والدین و متخصصان
- محتوای جنسی صریح و هر طراحی‌ای که افزایش تعامل را بالاتر از محافظ‌های ایمنی بگذارد
نکته کلیدی: اگر شرکت نتواند بزرگسال بودن کاربر را تأیید کند، باید نسخه محدودشده چتبات را به او نشان دهد. پیش‌فرض، حالت امن است.
کدام چت‌بات‌ها مشمول قانون هستند؟
شاید فکر کنید این قانون فقط برای اپ‌های دوست مجازی است، اما به نوشته PPC Land تعریف آن گسترده‌تر است و هر سامانه هوش مصنوعی مولدی را که با متن یا صدا گفت‌وگوی پیوسته و سازگارشونده دارد در بر می‌گیرد. در مقابل، چتباتهای پشتیبانی مشتری، ابزارهای بهره‌وری، پژوهش و کمک فنی و سامانه‌های داخلی شرکت‌ها معاف‌اند، به شرطی که نتوانند خارج از موضوع تعیین‌شده پاسخ بدهند.
برای ابزارهای آموزشی معافیتی پیش‌بینی نشده است. یعنی یک دستیار درسی هم اگر بتواند درباره هر موضوعی گپ بزند، ممکن است مشمول این محدودیتها شود. از نظر جغرافیایی هم قانون به فعالیت‌هایی مربوط است که کل یا بخشی از آن‌ها در نیویورک انجام شود و دسترسی کاربرانی که بیرون از این ایالت هستند را شامل نمی‌شود.
تأیید سن و جریمه‌ها چطور کار می‌کند؟
شرکت‌ها باید بیش از یک روش برای تأیید سن ارائه کنند و دست‌کم یکی از آن‌ها نباید فقط به کارت شناسایی دولتی متکی باشد. اطلاعاتی که برای تأیید سن جمع میشود هم باید پس از استفاده حذف شود. این بند اهمیت زیادی دارد، چون تأیید سن همیشه این نگرانی را به همراه دارد که خودش به جمع‌آوری اطلاعات تازه تبدیل شود.
اجرای قانون با دادستان کل نیویورک است. جریمه هر تخلف تا ۲۵ هزار دلار است و دادگاه می‌تواند دستور جبران خسارت و حتی نابودی داده‌های غیرقانونی و مدل‌هایی را که با آن داده‌ها آموزش دیده‌اند بدهد. دادستان باید وب‌سایتی عمومی هم برای ثبت شکایت راه بیندازد. با این حال، طبق گزارش PPC Land، خانواده‌ها خودشان بر اساس این قانون حق شکایت مستقیم ندارند. IAPP و PPC Land تاریخ اجرای قانون را اول ژانویه ۲۰۲۷ اعلام کرده‌اند.
چرا این موضوع این‌قدر جدی شده است؟
دفتر فرماندار به نظرسنجی Common Sense Media استناد کرده که طبق آن ۷۲ درصد نوجوانان از همدم هوش مصنوعی استفاده کرده‌اند و ۵۲ درصد دست‌کم چند بار در ماه سراغ آن می‌روند. به گزارش IAPP، هوکل گفته نامه‌ای درباره مرگ یک نوجوان ۱۶ ساله که گفت‌وگوی طولانی با چتبات داشته، یکی از انگیزه‌های این قانون بوده است.
این قانون تنها اقدام در این حوزه نیست. Fortune می‌نویسد اوایل اکتبر دست‌کم هشت ایالت آمریکا از OpenAI شکایت کردند و OpenAI در واکنش به قانون نیویورک گفته است از قبل محافظ‌هایی برای کودکان در ChatGPT ساخته و به بهبود مدل ادامه می‌دهد. IAPP هم گزارش داده تا ژوئیه ۲۰۲۶ دوازده ایالت نوعی قانون ایمنی چتبات تصویب کرده بودند و کالیفرنیا در سپتامبر قانونی با تمرکز بر ارزیابی ریسک و بازرسی مستقل امضا کرد.
منتقدان چه می‌گویند؟
همه از این قانون راضی نیستند. به گزارش PPC Land، انجمن صنعت کامپیوتر و ارتباطات (CCIA) از فرماندار خواسته بود آن را وتو کند و حقوق‌دانان یک مؤسسه حقوقی هم درباره چالش‌های احتمالی آن با آزادی بیان در قانون اساسی آمریکا هشدار داده‌اند. هنوز شکایتی در این باره گزارش نشده است.
نقد دیگر درباره ابهام متن است. جاستین گلاک، تحلیلگر مؤسسه Future of Privacy Forum، به IAPP گفته این دسته‌بندی‌ها گسترده و تا حدی نامشخص هستند و ممکن است معلوم نباشد گفت‌وگوی عادی کجا تمام میشود و رفتار ممنوع کجا شروع میشود. سؤال عملی هم همین است: مرز بین یک پاسخ مهربانانه و تملق را چطور باید تعیین کرد؟
این قانون برای خانواده‌های ایرانی چه پیامی دارد؟
این قانون فقط در نیویورک اجرا میشود و به کاربران ایرانی حق یا حمایتی نمی‌دهد. اما فهرست ۱۲ گانه آن یک راهنمای رایگان است که نشان می‌دهد قانون‌گذاران کدام رفتارهای چتبات را برای نوجوان خطرناک می‌دانند. والدین و معلم‌ها می‌توانند از همین فهرست برای حرف زدن با بچه‌ها استفاده کنند، نه برای ترساندنشان.
اگر شما هم فرزند نوجوان دارید یا با نوجوانان کار می‌کنید، این چند قدم ساده کمک می‌کند. اگر احساس کردید نوجوانی در وضعیت روحی سختی است، گفت‌وگو با یک بزرگ‌تر مورد اعتماد و یک متخصص را به چتبات ترجیح دهید.
- با فرزندتان درباره این حرف بزنید که چتبات آدم نیست و احساس واقعی ندارد
- به او یاد بدهید اطلاعات شخصی، سلامت و خانوادگی را در چتبات وارد نکند
- اگر چت‌باتی می‌گوید «این راز بین ما بماند»، آن را زنگ خطر بدانید
- از او بپرسید با چتبات چه می‌کند، بدون سرزنش و بازجویی
از این به بعد چه چیزی را باید دنبال کرد؟
سؤال اصلی این است که شرکت‌ها این قانون را چطور اجرا می‌کنند: نسخه‌ای جدا برای نیویورک می‌سازند یا تغییرات را برای همه اعمال می‌کنند؟ PPC Land یادآوری می‌کند تعهدات قانون SAFE for Kids هم از ۲۵ ژانویه ۲۰۲۷ شروع میشود، پس ژانویه برای این شرکت‌ها ماه مهمی است. سرنوشت چالش‌های حقوقی احتمالی هم نشان می‌دهد چنین مدلی می‌تواند در جاهای دیگر تکرار شود یا نه.
برای کسانی که چتبات می‌سازند، حتی در ایران، پیام روشن است: طراحی ایمن برای نوجوانان دارد به استاندارد تبدیل میشود. اگر محصولی با مخاطب نوجوان می‌سازید، از همین حالا به محدود کردن حافظه، حذف نقش‌آفرینی عاطفی و راهنمایی کاربر به سمت کمک انسانی فکر کنید.
منابع و مطالعه بیشتر
- Governor Hochul signs legislation to protect kids from AI chatbotsOffice of the Governor of New York
- New York just banned AI chatbots from pretending to be human, or your kid's boyfriendFortune
- New York's governor signs youth AI chatbot safety billIAPP
- Hochul signs law barring human-posing AI chatbots for under-18sPPC Land
سؤال‌های متداول
قانون چتبات نیویورک از چه زمانی اجرا میشود؟+
این قانون ۲۸ اکتبر ۲۰۲۶ امضا شد. طبق گزارش IAPP و PPC Land از اول ژانویه ۲۰۲۷ اجرا میشود. بیانیه دفتر فرماندار فقط گفته محدودیتها «در ماه‌های آینده» اجرایی می‌شوند.
آیا این قانون شامل کاربران ایرانی هم میشود؟+
نه. این قانون به فعالیت در ایالت نیویورک مربوط است و دسترسی کاربرانی را که بیرون از این ایالت هستند در بر نمی‌گیرد. با این حال فهرست آن برای والدین و سازندگان چتبات راهنمای مفیدی است.
اگر شرکت نتواند سن کاربر را تأیید کند چه میشود؟+
در این صورت نمیتواند ویژگیهای ممنوع را به آن کاربر نشان دهد و باید نسخه محدودشده را ارائه کند. فقط تأیید بزرگسال بودن است که این محدودیتها را برمیدارد و اعلام سن از سوی خود کاربر برای این کار کافی نیست.
آیا چتبات پشتیبانی فروشگاهها هم باید تغییر کند؟+
معمولاً نه. چتباتهای پشتیبانی مشتری که فقط درباره محصولات و خدمات همان کسبوکار پاسخ میدهند معاف هستند، به شرطی که نتوانند درباره موضوعهای خارج از هدف خود حرف بزنند.
