
بروزرسانی: 28 خرداد 1404
گرد هم آوردن مردم برای تصمیم گیری در مورد هوش مصنوعی مولد
انجمن های انجمن افراد را گرد هم می آورند تا درباره مسائل سخت بحث کنند، انتخاب های سخت را در نظر بگیرند و توصیه هایی را برای بهبود تجربیات افراد در برنامه های ما به اشتراک بگذارند. این مدل مبتنی بر نظرسنجی مشورتی است، رویکردی که توسط دولت های سراسر جهان استفاده شده است، که در آن گروه های نماینده این فرصت را دارند تا قبل از به اشتراک گذاشتن دیدگاه های خود، در مورد مسائل پیچیده اطلاعات کسب کنند. این به طور قابل توجهی با نظرسنجی های معمولی تجربه کاربر متفاوت است، که در آن افراد برای برداشت های خود نظرسنجی می شوند اما لزوماً با موضوع آشنایی ندارند.
برای اینکه افراد بیشتری را وارد این فرآیند کنیم، باید با رویکردهای جدید در حکمرانی و تصمیم گیری نوآوری کنیم. به همین دلیل است که ما راه اندازی یک انجمن انجمن را اعلام می کنیم که برای ایجاد بازخورد در مورد اصول حاکمیتی طراحی شده است که مردم می خواهند در فناوری های جدید هوش مصنوعی منعکس شود. انجمن انجمن ما در مورد هوش مصنوعی مولد با مشورت آزمایشگاه دموکراسی مشورتی استنفورد و تیم بینش رفتاری (BIT) برگزار خواهد شد. هر دو سازمان در راه اندازی آزمایشی انجمن انجمن ما در سال گذشته شریک بودند.
انجمن های انجمن چیست؟
امروز، استنفورد نیز در حال انتشار است خروجی انجمن انجمن متاورس ما، که در ماه دسامبر انجام شد. این انجمن نه تنها بینش های ارزشمندی به ما داد، بلکه تمایل مردم را برای درگیر شدن در مسائل ظریف و پیچیده نشان داد و تأیید کرد که این روش می تواند در سطح جهانی موفق باشد.
رویکردی باز برای توسعه فناوری های جدید
انجمن های انجمن بخشی از اخلاق گسترده تر از شفافیت، مسئولیت پذیری و همکاری هستند. ما یافته ها را به صورت عمومی منتشر خواهیم کرد تا سایر شرکت های فناوری، دانشگاهیان و جامعه بتوانند از بینش های دموکراتیک به دست آمده از شرکت کنندگان بهره ببرند. به طور کلی، ما معتقدیم که با توسعه فناوری های جدید قدرتمند مانند هوش مصنوعی مولد، شرکت ها باید نسبت به نحوه عملکرد سیستم های خود بازتر باشند. به عنوان مثال، ما یکی از اعضای موسس آن هستیم مشارکت در هوش مصنوعیو هفته گذشته اعلام کرد که در چارچوب اقدام جمعی آن در مورد رسانه های مصنوعی شرکت می کنیم، گامی مهم در حصول اطمینان از ایجاد حفاظ های مسئول حول محتوای تولید شده توسط هوش مصنوعی. و همچنین به همین دلیل است که ما در حال پیشروی مدل های جدید و نوآورانه حکمرانی هستیم. و همچنین انجمن انجمن، ما ایجاد کردیم هیئت نظارت در سال 2020 - یک نهاد مستقل و تحت رهبری متخصص که به عنوان کنترل و تعادل تصمیمات محتوای متا عمل می کند.
برای اکثر مردم، غیرممکن است که بدانند وقتی با فناوری های جدیدی مواجه می شوند که چنین خوش بینی و بدبینی هذلولی را القا می کنند، چه فکری کنند. تنها راه حل، صراحت از سوی کسانی است که این فناوری ها را توسعه می دهند. این بدان معناست که شرکت های فناوری باید در مورد فناوری هایی که می سازند شفاف تر باشند، آنها باید با همکاری دیگران در صنعت، دولت، جامعه مدنی و دانشگاه ها برای توسعه آنها به شیوه ای مسئولانه کار کنند، و باید راه هایی برای جذب افراد بیابند. در این فرآیند به عنوان آنها نرده های محافظی را که سیستم های هوش مصنوعی در آن کار می کنند، توسعه می دهند.
متا سازوکارهای دموکراسی مشورتی را ابداع نکرد. دولت ها و سازمان ها در سرتاسر جهان برای چندین دهه از آن ها برای پاسخگویی موفقیت آمیز به سؤالات دشوار استفاده می کنند: از اصلاح قانون اساسی در ایرلند، تا رسیدگی به بلایای زیست محیطی و فشارهای جمعیتی در اوگاندا، و تغییر سیستم انتخاباتی در بخش هایی از کانادا.
ما معتقدیم هوش مصنوعی مولد برای این روش تصمیم گیری مناسب است. مدل های هوش مصنوعی توسط داده هایی که به آنها دسترسی دارند و همچنین ساختارها و ورودی هایی که ما در ساخت زیرساخت هایشان ایجاد می کنیم هدایت می شوند. متا و شرکت هایی مانند ما «ارزش هایی» را وارد می کنند که مدل هوش مصنوعی را هدایت می کنند و می توانند با دادن راهی برای ارزیابی خروجی های خود به محافظت در برابر سوگیری و پیامدهای ناخواسته کمک کنند. ما فکر می کنیم مهم است که این ارزش ها منعکس کننده دیدگاه های مختلف از سراسر جامعه باشند، و انجمن انجمن بر اساس بازخوردی که از کارشناسان دریافت کرده ایم، به عنوان بخشی از فرآیندهای توسعه خط مشی مان است.
چیزهای کمی در ماه های اخیر بیش از پیشرفت های مهمی که در هوش مصنوعی و به ویژه هوش مصنوعی مولد دیده ایم، تخیل عمومی را به خود جلب کرده است. اینها محصولات و خدماتی هستند که به افراد اجازه می دهند محتوای متنی، صوتی و تصویری را با اعلان های ساده تولید کنند. انفجار علاقه به این فناوری های جدید قدرتمند، هم به هیجان زیاد در مورد امکاناتی که ایجاد می کنند و هم به نگرانی های قابل توجهی در مورد خطرات منجر شده است.
از آنجایی که متا بهترین راه ها را برای توسعه سیستم های هوش مصنوعی مولد اصلاح می کند، این انجمن انجمن بینش هایی را در مورد اینکه مردم دوست دارند مدل ها برای موضوعات ظریف رفتار کنند، به ما می دهد و بنابراین ملاحظات محصول و سیاست های آینده را به ما اطلاع می دهد. شرکت کنندگان اصولی را بررسی خواهند کرد که طیف متنوعی از کاربران از سراسر جهان معتقدند سیستم های هوش مصنوعی مولد باید با آن ها هماهنگ باشند. سپس این اصول می تواند به اطلاع رسانی سیستم های ما کمک کند. امید ما این است که این انجمن نه تنها به اطلاع رسانی زیرساخت های مدل سازی ما کمک کند، بلکه بینش های متفکرانه و ظریفی را برای صنعت گسترده تر ارائه دهد.
ما همچنین معتقدیم که یک رویکرد باز به تحقیق و نوآوری - به ویژه وقتی صحبت از فناوری های هوش مصنوعی متحول می شود - بهتر از واگذاری دانش به دست تعداد کمی از شرکت های بزرگ فناوری است. به همین دلیل است که ما بیش از 1000 مدل، کتابخانه و مجموعه داده های هوش مصنوعی را در دهه گذشته برای محققان منتشر کرده ایم تا آنها بتوانند از قدرت محاسباتی ما بهره ببرند و تحقیقات را آزادانه و ایمن دنبال کنند. باز بودن همچنین برای اطمینان از اینکه توسعه دهندگان، کارآفرینان و استارت آپ ها می توانند از مدل های بنیادی ساخته شده توسط شرکت های بزرگ برای ایجاد ابزارهای جدید و افزایش ایمنی هوش مصنوعی از طریق نوآوری مستمر و باز استفاده کنند، بسیار مهم است.
منبع
یک رویکرد باز نه تنها به این معنی است که جامعه درک بیشتری از توانایی این فناوری ها – و چه چیزی ندارند – خواهد داشت، بلکه به مردم این فرصت را می دهد تا به شکل دهی به توسعه خود کمک کنند و اطمینان حاصل کنند که طیف متنوعی از دیدگاه ها و تجربیات ساخته شده است. به تصمیماتی که شرکت ها در هنگام ساخت آنها می گیرند.
ما فکر می کنیم مهم است که تصمیمات مربوط به محصول و سیاست ما در مورد هوش مصنوعی مولد توسط افراد و کارشناسان از سراسر جهان مطلع شود. ما با ده ها نفر از دانشگاهیان، محققین و رهبران جامعه در مورد چگونگی فکر کردن به محتوای تولیدی هوش مصنوعی صحبت کرده ایم، و همچنین به طور فعال با مشارکت در زمینه هوش مصنوعی، که در سال 2016 به عنوان یک عضو موسس به آن ملحق شدیم، کار می کنیم تا اطمینان حاصل کنیم که ما و دیگران مرزهای اخلاقی درستی برای ساخت این محصولات داریم.
شرکت کنندگان به مواد آموزشی گسترده دسترسی دارند، چندین بار در گروه های کوچک بحث می کنند و این فرصت را دارند که از کارشناسان مستقل برجسته درباره مفاهیم مورد بحث سؤال بپرسند. این به آن ها کمک می کند تا عمیق تر با مسائل پیچیده تری مانند هوش مصنوعی مولد درگیر شوند و منجر به نتایج در نظر گرفته شده، ظریف تر و غنی تر شوند. و به Meta کمک می کند تا در هنگام ساختن سیستم ها و محصولات خود، طیف وسیعی از دیدگاه های متنوع را از سوی کاربران خود دریافت کند.