- عضویت
- 6/2/20
- ارسال ها
- 7,624
- امتیاز واکنش
- 13,279
- امتیاز
- 428
- زمان حضور
- 82 روز 4 ساعت 42 دقیقه
نویسنده این موضوع
برخی از شرکتهای فعال در حوزه هوش مصنوعی برای پیشگیری از تعصب و غرضورزی احتمالی این فناوری، باور دارند که هوش مصنوعی باید برای تصمیمات خود، دلایل قانعکننده و به دور از تبعیض داشته باشد.
به گزارش بیگ بنگ به نقل از ایسنا، هوش مصنوعی هم مانند انسان، با غرضورزی کار میکند. در حقیقت میتوان گفت هر شخص یا چیزی که قابلیت تصمیمگیری داشته باشد، با غرضورزی عمل میکند و هنگام انتخاب، به برخی از عوامل بیش از عوامل دیگر بها میدهد. با وجود این، همانگونه هوش مصنوعی در سالهای اخیر به خاطر غرضورزی و تبعیض علیه گروههای خاصی از جمله زنان و رنگینپوستان، بدنام شده، شرکتها نیز به همان اندازه در غلبه بر تبعیض الگوریتمهای آن، مهارت بیشتر به دست میآورند.
روشی که آنها غالبا برای این کار استفاده میکنند، با عنوان “هوش مصنوعی با قابلیت توضیح”(Explainable AI) شناخته میشود. در گذشته و حتی اکنون، عملکرد بیشتر اطلاعات مربوط به هوش مصنوعی، مانند یک جعبه سیاه ارائه میشده است. افرادی که کار رمزگذاری را انجام میدهند، شبکههای عصبی الگوریتمها را طراحی کردند اما هنگامی که این اطلاعات منتشر شد، شبکههای عصبی بدون نظارت افرادی که آنها را برنامهریزی کرده بودند، به کار خود ادامه دادند. در هر حال، شرکتها در ابتدا متوجه این مشکل نشدند و هنگامی به آن پی بردند که بسیار دیر شده بود.
این مشکل هوش مصنوعی، موضوعی چالشبرانگیز است. بیشتر استارتاپها و شرکتها در حال حاضر، روشها و پلتفرمهایی را براساس هوش مصنوعی قابل توضیح ارائه میدهند. یکی از جالبترین این روشها، روش ارائه شده توسط استارتاپ موسوم به “فیدلر لبز”(Fiddler Labs) است. این استارتاپ که در سانفرانسیسکو و توسط مهندسان پیشین فیسبوک و سامسونگ تاسیس شده است، نوعی موتور جستجوی مبتنی بر هوش مصنوعی را به شرکتها پیشنهاد میکند که همه عوامل مرتبط با تصمیمگیری را نمایش میدهد. “آمیت پاکا”(Amit Paka)، از بنیانگذاران این استارتاپ گفت: نرمافزار ما موجب میشود که رفتار مدلهای هوش مصنوعی، واضح و قابل درک باشند.
پاکا به عنوان نمونه توضیح داد که چگونه هوش مصنوعی قابل توضیح میتواند به مدل مبتنی بر هوش مصنوعی مورد استفاده بانکها کمک کند. وی افزود: ورودیهای بسیاری وجود دارند که هنگام تصمیمگیری برای یک کاربرد خاص، مورد توجه قرار میگیرند. در یک فضای قدیمی بدون وجود فیدلر، گفتن چگونگی و دلیل تاثیر هر ورودی بر نتیجه، دشوار و یا تقریبا غیرممکن است اما شاید بانکها با وجود هوش مصنوعی قابل توضیح بتوانند تاثیر هر ورودی را نسبت به خروجی مشخص کنند.
پاکا اضافه کرد: این قابلیت توضیح دادن، به ابداعکنندگان هوش مصنوعی، کاربران اقتصادی، تنظیمکنندگان و کاربران نهایی امکان میدهد تا درک بهتری در مورد دلیل پیشبینیهای خاص داشته باشند. این موضوع، در مورد تعصب و اخلاقیات مربوط به هوش مصنوعی، از اهمیت بالایی برخوردار است زیرا به شرکتها امکان میدهد تا تبعیضهای احتمالی علیه گروههای خاص را شناسایی کنند. به علاوه، چنین قابلیتی میتواند به شرکتها در اصلاح مدلهای هوش مصنوعی پیش از به کار بردن آنها در مقیاس بزرگ کمک کند.
انجمن رمان 98
انجمن رمان 98 | برترین انجمن رمان نویسی
رمان 98
روشی که آنها غالبا برای این کار استفاده میکنند، با عنوان “هوش مصنوعی با قابلیت توضیح”(Explainable AI) شناخته میشود. در گذشته و حتی اکنون، عملکرد بیشتر اطلاعات مربوط به هوش مصنوعی، مانند یک جعبه سیاه ارائه میشده است. افرادی که کار رمزگذاری را انجام میدهند، شبکههای عصبی الگوریتمها را طراحی کردند اما هنگامی که این اطلاعات منتشر شد، شبکههای عصبی بدون نظارت افرادی که آنها را برنامهریزی کرده بودند، به کار خود ادامه دادند. در هر حال، شرکتها در ابتدا متوجه این مشکل نشدند و هنگامی به آن پی بردند که بسیار دیر شده بود.
این مشکل هوش مصنوعی، موضوعی چالشبرانگیز است. بیشتر استارتاپها و شرکتها در حال حاضر، روشها و پلتفرمهایی را براساس هوش مصنوعی قابل توضیح ارائه میدهند. یکی از جالبترین این روشها، روش ارائه شده توسط استارتاپ موسوم به “فیدلر لبز”(Fiddler Labs) است. این استارتاپ که در سانفرانسیسکو و توسط مهندسان پیشین فیسبوک و سامسونگ تاسیس شده است، نوعی موتور جستجوی مبتنی بر هوش مصنوعی را به شرکتها پیشنهاد میکند که همه عوامل مرتبط با تصمیمگیری را نمایش میدهد. “آمیت پاکا”(Amit Paka)، از بنیانگذاران این استارتاپ گفت: نرمافزار ما موجب میشود که رفتار مدلهای هوش مصنوعی، واضح و قابل درک باشند.
پاکا به عنوان نمونه توضیح داد که چگونه هوش مصنوعی قابل توضیح میتواند به مدل مبتنی بر هوش مصنوعی مورد استفاده بانکها کمک کند. وی افزود: ورودیهای بسیاری وجود دارند که هنگام تصمیمگیری برای یک کاربرد خاص، مورد توجه قرار میگیرند. در یک فضای قدیمی بدون وجود فیدلر، گفتن چگونگی و دلیل تاثیر هر ورودی بر نتیجه، دشوار و یا تقریبا غیرممکن است اما شاید بانکها با وجود هوش مصنوعی قابل توضیح بتوانند تاثیر هر ورودی را نسبت به خروجی مشخص کنند.
پاکا اضافه کرد: این قابلیت توضیح دادن، به ابداعکنندگان هوش مصنوعی، کاربران اقتصادی، تنظیمکنندگان و کاربران نهایی امکان میدهد تا درک بهتری در مورد دلیل پیشبینیهای خاص داشته باشند. این موضوع، در مورد تعصب و اخلاقیات مربوط به هوش مصنوعی، از اهمیت بالایی برخوردار است زیرا به شرکتها امکان میدهد تا تبعیضهای احتمالی علیه گروههای خاص را شناسایی کنند. به علاوه، چنین قابلیتی میتواند به شرکتها در اصلاح مدلهای هوش مصنوعی پیش از به کار بردن آنها در مقیاس بزرگ کمک کند.
انجمن رمان 98
انجمن رمان 98 | برترین انجمن رمان نویسی
رمان 98
هوش مصنوعی باید تصمیمات خود را توضیح دهد!
رمان ۹۸ | دانلود رمان
نودهشتیا,بزرگترین مرجع تایپ رمان, دانلود رمان جدید,دانلود رمان عاشقانه, رمان خارجی, رمان ایرانی, دانلود رمان بدون سانسور,دانلود رمان اربابی,
roman98.com