شبکه عصبی مصنوعی (ANN) چیست؟

چکیده مقاله:
شبکه عصبی مصنوعی مدلی محاسباتی است که از شبکه نورون های موجود در مغز انسان الهام گرفته شده است. همچنین می توان آن را به عنوان الگوریتم یادگیری در نظر گرفت که رابطه بین ورودی و خروجی را مدل می کند. کاربردهای شبکه های عصبی مصنوعی شامل شناسایی الگوها و پیش بینی در حوزه هایی مانند پزشکی، کسب و کار، علوم پایه، داده کاوی، مخابرات و مدیریت عملیات است.

شبکه عصبی مصنوعی داده های ورودی را با اعمال یک تابع غیرخطی بر یک جمع وزنی از ورودی ها تبدیل می کند. این تبدیل به عنوان یک لایه عصبی شناخته می شود و تابع اعمال شده به عنوان یک واحد عصبی نامیده می شود. خروجی های میانی یک لایه، که به آنها ویژگی ها گفته می شود، به عنوان ورودی به لایه بعدی مورد استفاده قرار می گیرند. شبکه عصبی از طریق این تبدیل های متوالی، چندین لایه از ویژگی های غیرخطی (مانند لبه ها و اشکال) را یاد می گیرد و سپس این ویژگی ها را در یک لایه نهایی برای ایجاد یک پیش بینی (مانند شناسایی اشیای پیچیده تر) ترکیب می کند.

مغز شما در حال پردازش این مقاله است. این مغز است که به شما کمک می کند تا اطلاعات را پردازش کنید. اما آیا می دانید مغز چگونه کار می کند؟ مغز از سلول های عصبی یا نورون ها تشکیل شده است که واحدهای اصلی مغز و سیستم عصبی هستند. این نورون ها ورودی حسی از دنیای بیرون دریافت می کنند، آن را پردازش می کنند و سپس خروجی ای ارائه می دهند که ممکن است ورودی به نورون بعدی باشد.

هر یک از این نورون ها به نورون های دیگر در اتصالات پیچیده ای به نام سیناپس متصل می شوند. حالا آیا می خواهید بدانید که این موضوع چگونه به شبکه های عصبی مصنوعی ارتباط دارد؟ بیایید با هم بررسی کنیم که این شبکه ها چیستند و چگونه اطلاعات را یاد می گیرند.

• هوش مصنوعی چیست؟

شبکه های عصبی مصنوعی

شبکه های عصبی مصنوعی شامل نورون های مصنوعی هستند که به آنها واحد می گویند. این واحدها در مجموعه ای از لایه ها قرار دارند که در مجموع شبکه عصبی مصنوعی را در یک سیستم تشکیل می دهند. یک لایه می تواند فقط دوازده واحد یا میلیون ها واحد داشته باشد که این بستگی به پیچیدگی شبکه های عصبی دارد که برای یادگیری الگوهای پنهان در داده ها نیاز دارند. معمولاً یک شبکه عصبی مصنوعی شامل یک لایه ورودی، یک لایه خروجی و همچنین لایه های پنهان است. لایه ورودی داده هایی را از دنیای بیرون دریافت می کند که شبکه عصبی باید آنها را تحلیل یا یاد بگیرد. سپس این داده ها از یک یا چند لایه پنهان عبور می کنند که ورودی را به داده ای تبدیل می کنند که برای لایه خروجی ارزشمند است. در نهایت، لایه خروجی پاسخ شبکه عصبی مصنوعی به داده ورودی را در قالب یک خروجی ارائه می دهد.

• پردازش تصویر چیست؟

در بیشتر شبکه های عصبی، واحدها از یک لایه به لایه دیگر متصل هستند. هر یک از این اتصالات دارای وزن هایی هستند که تأثیر یک واحد بر واحد دیگر را تعیین می کنند. هنگامی که داده ها از یک واحد به واحد دیگر منتقل می شوند، شبکه عصبی بیشتر و بیشتر درباره داده ها یاد می گیرد که در نهایت منجر به تولید خروجی از لایه خروجی می شود. ساختارها و عملیات نورون های انسانی پایه و اساس شبکه های عصبی مصنوعی را تشکیل می دهند. این شبکه ها همچنین به نام شبکه های عصبی یا نورن های مصنوعی شناخته می شوند. لایه ورودی یک شبکه عصبی مصنوعی اولین لایه است و داده هایی را از منابع خارجی دریافت کرده و آن را به لایه پنهان ارسال می کند که لایه دوم است. در لایه پنهان، هر نورون ورودی را از نورون های لایه قبلی دریافت می کند، مجموع وزنی آن را محاسبه می کند و آن را به نورون های لایه بعدی می فرستد. این اتصالات وزن دار هستند، به این معنی که تأثیر ورودی ها از لایه قبلی با اختصاص دادن وزن های متفاوت به هر ورودی بهینه می شوند و این وزن ها در طول فرایند آموزش برای بهبود عملکرد مدل تنظیم می شوند.

• شبکه عصبی چیست؟

نورون های مصنوعی در مقابل نورون های بیولوژیکی

مفهوم شبکه های عصبی مصنوعی از نورون های بیولوژیکی موجود در مغز حیوانات نشأت می گیرد. بنابراین آنها از نظر ساختار و عملکرد شباهت های زیادی دارند.

• ساختار: ساختار شبکه های عصبی مصنوعی از نورون های بیولوژیکی الهام گرفته شده است. نورون بیولوژیکی دارای یک بدنه سلولی یا سوما برای پردازش تکانه ها، دندریت هایی برای دریافت این تکانه ها و آکسونی است که آنها را به نورون های دیگر منتقل می کند. گره های ورودی در شبکه های عصبی مصنوعی سیگنال های ورودی را دریافت می کنند، گره های لایه پنهان این سیگنال های ورودی را پردازش می کنند و گره های لایه خروجی با استفاده از توابع فعال سازی، خروجی نهایی را از نتایج لایه پنهان محاسبه می کنند.

  نورون بیولوژیکی	نورون های مصنوعی
  دندریت	ورودی ها
  هسته سلولی یا سوما	نود ها
  سیناپس ها	وزن ها
  آکسون	خروجی ها

• سیناپس ها: سیناپس ها اتصالات بین نورون های بیولوژیکی هستند که به انتقال تکانه ها از دندریت ها به بدنه سلولی کمک می کنند. سیناپس ها همان وزن هایی هستند که گره های یک لایه را به گره های لایه بعدی متصل می کنند. قدرت این اتصالات با مقدار وزن تعیین می شود.
• یادگیری: در نورون های بیولوژیکی، یادگیری در هسته یا سوما سلول اتفاق می افتد که هسته آن به پردازش تکانه ها کمک می کند. اگر تکانه ها به اندازه کافی قوی باشند که به آستانه برسند، یک پتانسیل عمل تولید می شود و از طریق آکسون ها منتقل می شود. این امر از طریق پلاستیسیته سیناپسی امکان پذیر است، که توانایی سیناپس ها برای قوی تر یا ضعیف تر شدن با گذشت زمان در واکنش به تغییرات در فعالیت آنها است. در شبکه های عصبی مصنوعی، بازگشت به عقب (backpropagation) تکنیک مورد استفاده برای یادگیری است که وزن ها را بین گره ها طبق خطا یا تفاوت بین پیش بینی شده و نتایج واقعی تنظیم می کند.

  نورون بیولوژیکی	نورون مصنوعی
  پلاستیسیته سیناپسی	پس انتشار

• فعال سازی: در نورون های بیولوژیکی، فعال سازی نرخ شلیک نورون است که زمانی رخ می دهد که تکانه ها به اندازه کافی قوی باشند تا به آستانه برسند. در شبکه های عصبی مصنوعی، یک تابع ریاضی به نام تابع فعال سازی ورودی را به خروجی نگاشت می کند و فعال سازی ها را انجام می دهد.

شبکه های عصبی مصنوعی چگونه یاد می گیرند؟

شبکه های عصبی مصنوعی با استفاده از یک مجموعه آموزشی آموزش داده می شوند. برای مثال، فرض کنید می خواهید یک شبکه عصبی مصنوعی (ANN) را برای شناسایی یک گربه آموزش دهید. در این صورت، هزاران تصویر مختلف از گربه به شبکه نشان داده می شود تا شبکه بتواند شناسایی گربه را بیاموزد. پس از اینکه شبکه عصبی با استفاده از تصاویر گربه به اندازه کافی آموزش دید، باید بررسی کنید که آیا می تواند تصاویر گربه را به درستی شناسایی کند. این کار با واداشتن شبکه عصبی به طبقه بندی تصاویر ارائه شده انجام می شود، به طوری که مشخص کند آیا تصویر ارائه شده، تصویر گربه است یا خیر. خروجی که توسط ANN تولید می شود با توضیحات انسانی که مشخص می کند تصویر گربه است یا خیر، تأیید می شود. اگر ANN به اشتباه شناسایی کند، از روش بازگشت به عقب (Backpropagation) برای تنظیم آنچه در طول آموزش یاد گرفته است، استفاده می شود. بازگشت به عقب با تنظیم وزن های اتصالات بین واحدهای ANN بر اساس نرخ خطا انجام می شود. این فرایند ادامه می یابد تا زمانی که شبکه عصبی مصنوعی بتواند یک گربه را در یک تصویر با حداقل خطای ممکن شناسایی کند.

• یادگیری عمیق

شبکه عصبی مصنوعی و استنتاج

پس از آموزش شبکه عصبی مصنوعی، این شبکه می تواند به درستی خروجی ها را با دریافت ورودی ها پیش بینی کند. به این فرآیند، استنتاج شبکه عصبی گفته می شود. برای انجام استنتاج، شبکه عصبی آموزش دیده می تواند بر روی پلتفرم هایی از جمله فضای ابری، مراکز داده سازمانی و دستگاه های محدود به منابع (edge) مستقر شود. پلتفرم استقرار و نوع کاربرد، نیازهای خاصی مانند تأخیر کم، توان عملیاتی بالا و اندازه برنامه را بر زمان اجرای آن تحمیل می کنند. به عنوان مثال، شبکه عصبی که برای تشخیص خطوط در خودرو استفاده می شود، باید تأخیری کم و اندازه برنامه کوچکی داشته باشد. از سوی دیگر، مرکز داده ای که اشیاء را در جریان های ویدیویی تشخیص می دهد، باید هزاران جریان ویدیویی را به طور همزمان پردازش کند، که نیازمند توان عملیاتی و کارایی بالا است.

• مدل سازی داده چیست؟

اصطلاحات مرتبط با شبکه عصبی

واحد (UNIT)

واحد معمولاً به یک تابع فعال سازی غیرخطی (مانند تابع سیگموئید لجستیک) در لایه ای از شبکه عصبی اشاره دارد که داده های ورودی را تبدیل می کند. واحدهای موجود در لایه های ورودی، مخفی و خروجی به ترتیب به عنوان واحدهای ورودی، مخفی و خروجی شناخته می شوند. یک واحد معمولاً چندین اتصال ورودی و خروجی دارد. واحدهای پیچیده مانند واحدهای حافظه بلندمدت کوتاه‌مدت (LSTM) دارای چندین تابع فعال سازی با ساختاری متمایز برای اتصال به این توابع هستند، یا واحدهای ماکس‌آوت که خروجی نهایی را از آرایه ای از مقادیر ورودی غیرخطی محاسبه می کنند. عملیات هایی مانند pooling و convolution که داده های ورودی را تغییر می دهند، معمولاً به عنوان واحد نامیده نمی شوند.

• یادگیری ماشین

نورون مصنوعی (ARTIFICIAL NEURON)

اصطلاحات نورون یا نورون مصنوعی معادل با واحد هستند، اما ارتباط نزدیکی با نورون زیستی را القا می کنند. با این حال، یادگیری عمیق ارتباط زیادی با نوروبیولوژی یا مغز انسان ندارد. در سطح خرد، اصطلاح نورون برای توضیح یادگیری عمیق به عنوان تقلیدی از مغز انسان استفاده می شود. در سطح کلان، هوش مصنوعی می تواند به عنوان شبیه سازی هوش انسانی توسط ماشین ها در نظر گرفته شود. اکنون باور بر این است که نورون های زیستی بیشتر شبیه به کل شبکه های چندلایه هستند تا یک واحد یا نورون مصنوعی منفرد در یک شبکه عصبی. مدل های ارتباط گرا از ادراک و شناخت انسان از شبکه های عصبی مصنوعی استفاده می کنند. این مدل ها که مغز را به عنوان شبکه ای متشکل از نورون ها و سیناپس های آن ها نشان می دهند، با دیدگاه کلاسیک (محاسبات گرایی) که شناخت انسانی را بیشتر شبیه به محاسبات نمادین در کامپیوترهای دیجیتال می داند، متفاوت هستند. شبکه های رابطه ای و ماشین های تورینگ عصبی شواهدی ارائه می کنند که نشان می دهد مدل های شناختی ارتباط گرا و محاسباتی می توانند با هم همزیستی داشته باشند.

تابع فعال سازی (ACTIVATION FUNCTION)

تابع فعال سازی، یا تابع انتقال، تبدیل داده های ورودی وزنی را (ضرب ماتریسی بین داده های ورودی و وزن ها) اعمال می کند. این تابع می تواند خطی یا غیرخطی باشد. واحدها نسبت به توابع انتقال پیچیدگی بیشتری دارند. یک واحد می تواند چندین تابع انتقال داشته باشد (واحدهای LSTM) یا ساختاری پیچیده تر (واحدهای ماکس‌آوت) داشته باشد.

ویژگی های هزار لایه از تبدیل های خطی خالص را می توان با یک لایه منفرد بازتولید کرد (زیرا زنجیره ای از ضرب ماتریسی را همیشه می توان به یک ضرب ماتریسی منفرد تبدیل کرد). با این حال، یک تبدیل غیرخطی می تواند روابط جدید و پیچیده تری ایجاد کند. به همین دلیل، این توابع در یادگیری عمیق بسیار اهمیت دارند تا با هر لایه، ویژگی های پیچیده تری ایجاد کنند. مثال هایی از توابع فعال سازی غیرخطی شامل توابع سیگموئید لجستیک، تانژانت هیپربولیک (Tanh) و ReLU هستند.

• مشاوره برنامه نویسی

لایه (LAYER)

لایه بالاترین سطح سازنده در یادگیری ماشین است. لایه های ابتدایی، میانی و انتهایی یک شبکه عصبی به ترتیب لایه ورودی، لایه مخفی و لایه خروجی نامیده می شوند. اصطلاح لایه مخفی به این دلیل استفاده می شود که خروجی آن قابل مشاهده نیست یا به عبارتی مخفی است. یک شبکه عصبی ساده سه لایه ای دارای یک لایه مخفی است، در حالی که اصطلاح شبکه عصبی عمیق به وجود چندین لایه مخفی اشاره دارد. هر لایه عصبی شامل نورون ها یا گره هایی است که گره های یک لایه به گره های لایه بعدی متصل هستند. ارتباطات بین گره ها با وزن هایی همراه است که به رابطه بین گره ها وابسته است. وزن ها به گونه ای تنظیم می شوند که تابع هزینه با بازگشت خطاها از طریق لایه ها حداقل شود. این کار با استفاده از الگوریتم های بهینه سازی مانند نزول گرادیان تصادفی، نزول گرادیان دسته ای یا نزول گرادیان مینی دسته انجام می شود.

لایه به عنوان یک ظرف عمل می کند که معمولاً ورودی های وزنی را دریافت کرده، آن ها را با مجموعه ای از توابع بیشتر غیرخطی تبدیل می کند و سپس این مقادیر را به عنوان خروجی به لایه بعدی در شبکه ارسال می کند. لایه معمولاً یکنواخت است، یعنی فقط یک نوع تابع فعال سازی، pooling، convolution و غیره دارد تا بتوان آن را به راحتی با سایر بخش های شبکه مقایسه کرد.

• برنامه نویسی

تسریع شبکه های عصبی مصنوعی با GPU

شبکه های عصبی پیشرفته ممکن است میلیون ها تا بیش از یک میلیارد پارامتر داشته باشند که باید از طریق بازگشت انتشار تنظیم شوند. این شبکه ها همچنین برای دستیابی به دقت بالا به مقدار زیادی داده آموزشی نیاز دارند، به این معنی که صدها هزار تا میلیون ها نمونه ورودی باید از طریق یک مرحله جلو و عقب عبور کنند. به دلیل اینکه شبکه های عصبی از تعداد زیادی نورون مشابه تشکیل شده اند، ماهیتاً بسیار موازی هستند. این موازی بودن به طور طبیعی به GPU ها منتقل می شود، که سرعت محاسباتی قابل توجهی نسبت به آموزش تنها با CPU فراهم می کنند.

GPU ها به دلیل توانایی در تسریع سیستم ها، به پلتفرم انتخابی برای آموزش سیستم های بزرگ و پیچیده مبتنی بر شبکه عصبی تبدیل شده اند. به دلیل اهمیت روزافزون شبکه های عصبی در صنعت و دانشگاه و نقش کلیدی GPU ها، شرکت NVIDIA کتابخانه ای از اجزا به نام cuDNN ارائه کرده است که دستیابی به عملکرد پیشرفته با شبکه های عصبی عمیق را آسان می کند.

ماهیت موازی عملیات استنتاج نیز برای اجرا روی GPU ها مناسب است. برای بهینه سازی، اعتبارسنجی و استقرار شبکه ها برای استنتاج، NVIDIA یک شتاب دهنده و زمان اجرای پلتفرم استنتاج به نام TensorRT ارائه کرده است. TensorRT استنتاج با تأخیر کم و توان عملیاتی بالا را ارائه می دهد و برنامه زمان اجرا را برای اجرا بهینه بر روی خانواده های مختلف GPU ها تنظیم می کند.

انواع شبکه های عصبی مصنوعی

1. شبکه عصبی پیشخور (Feedforward Neural Network):
   شبکه عصبی پیشخور یکی از ساده ترین انواع شبکه های عصبی مصنوعی است. در این ANN، داده ها یا ورودی ارائه شده در یک جهت حرکت می کنند. داده ها از طریق لایه ورودی وارد ANN می شوند و از لایه خروجی خارج می شوند، در حالی که ممکن است لایه های پنهانی وجود داشته باشند یا نداشته باشند. بنابراین شبکه عصبی پیشخور فقط یک موج پیشروی دارد و معمولاً بازگشت به عقب ندارد.
   • شبکه عصبی پیشخور
2. شبکه عصبی کانولوشنی (Convolutional Neural Network):
   شبکه عصبی کانولوشنی شباهت هایی با شبکه عصبی پیشخور دارد، به طوری که اتصالات بین واحدها دارای وزن هایی هستند که تأثیر یک واحد بر واحد دیگر را تعیین می کنند. اما یک شبکه کانولوشنی دارای یک یا چند لایه کانولوشن است که عملیات کانولوشن را بر روی ورودی انجام داده و سپس نتیجه حاصل را به عنوان خروجی به لایه بعدی انتقال می دهد. شبکه های کانولوشنی در پردازش تصویر و صدا کاربرد دارند و به طور خاص در بینایی کامپیوتر مفید هستند.
   • شبکه عصبی کانولوشنی (CNN) چیست؟
3. شبکه عصبی ماژولار (Modular Neural Network):
   یک شبکه عصبی ماژولار شامل مجموعه ای از شبکه های عصبی مختلف است که به صورت مستقل برای دستیابی به خروجی کار می کنند و هیچ تعاملی بین آنها وجود ندارد. هر یک از این شبکه های عصبی مختلف یک زیرکار متفاوت را با استفاده از ورودی های منحصر به فردی نسبت به سایر شبکه ها انجام می دهند. مزیت شبکه عصبی ماژولار این است که یک فرایند محاسباتی بزرگ و پیچیده را به اجزای کوچکتر تقسیم می کند، بنابراین پیچیدگی آن کاهش یافته و در عین حال خروجی مورد نیاز حاصل می شود.
   • شبکه عصبی مدولار (MNN) چیست؟
4. شبکه عصبی با تابع پایه شعاعی (Radial Basis Function Neural Network):
   توابع پایه شعاعی توابعی هستند که فاصله یک نقطه را نسبت به مرکز در نظر می گیرند. شبکه های RBF دارای دو لایه هستند. در لایه اول، ورودی به تمام توابع پایه شعاعی در لایه پنهان نگاشت می شود و سپس لایه خروجی در گام بعد خروجی را محاسبه می کند. شبکه های تابع پایه شعاعی معمولاً برای مدل سازی داده هایی استفاده می شوند که نمایانگر یک روند یا تابع اساسی هستند.
5. شبکه عصبی بازگشتی (Recurrent Neural Network):
   شبکه عصبی بازگشتی خروجی یک لایه را ذخیره کرده و این خروجی را به ورودی بازمی گرداند تا نتیجه لایه بهتر پیش بینی شود. لایه اول در RNN بسیار شبیه به شبکه عصبی پیشخور است و شبکه بازگشتی پس از محاسبه خروجی لایه اول آغاز می شود. پس از این لایه، هر واحد برخی اطلاعات از مرحله قبلی را به خاطر می سپارد تا به عنوان یک سلول حافظه در انجام محاسبات عمل کند.
   • شبکه های عصبی بازگشتی

کاربردهای شبکه های عصبی مصنوعی

1. رسانه های اجتماعی:
   شبکه های عصبی مصنوعی به طور گسترده در رسانه های اجتماعی استفاده می شوند. برای مثال، قابلیت «افرادی که ممکن است بشناسید» در فیس بوک، افرادی را پیشنهاد می دهد که ممکن است در دنیای واقعی آنها را بشناسید تا بتوانید برایشان درخواست دوستی ارسال کنید. این ویژگی شگفت انگیز با استفاده از شبکه های عصبی مصنوعی ممکن می شود که پروفایل شما، علایقتان، دوستان فعلی و حتی دوستان آنها و عوامل دیگر را تحلیل می کند تا افرادی را که ممکن است بشناسید، محاسبه کند. یکی دیگر از کاربردهای رایج یادگیری ماشین در رسانه های اجتماعی تشخیص چهره است. این کار با یافتن حدود 100 نقطه مرجع روی چهره فرد و سپس مطابقت دادن آنها با داده های موجود در پایگاه داده با استفاده از شبکه های عصبی کانولوشنی انجام می شود.
2. بازاریابی و فروش:
   هنگامی که وارد سایت های تجارت الکترونیکی مانند آمازون و فلیپ کارت می شوید، این سایت ها بر اساس تاریخچه مرور قبلی شما محصولاتی را برای خرید پیشنهاد می دهند. به طور مشابه، فرض کنید شما عاشق پاستا هستید، در این صورت اپلیکیشن هایی مانند زوماتو و سویگی، رستوران هایی را بر اساس سلیقه و سفارش های قبلی شما پیشنهاد می کنند. این امر در تمام بخش های بازاریابی مدرن مانند سایت های کتاب، خدمات فیلم، سایت های مهمان داری و غیره صدق می کند و با استفاده از بازاریابی شخصی سازی شده ممکن می شود. این روش از شبکه های عصبی مصنوعی برای شناسایی علایق، عدم علاقه ها، تاریخچه خرید قبلی مشتری و سپس طراحی کمپین های بازاریابی بر اساس آن استفاده می کند.
3. سلامت و درمان:
   شبکه های عصبی مصنوعی در آنکولوژی برای آموزش الگوریتم هایی استفاده می شوند که می توانند با همان دقت پزشکان متخصص، بافت های سرطانی را در سطح میکروسکوپی شناسایی کنند. بیماری های نادر مختلف ممکن است در ویژگی های فیزیکی ظاهر شوند و با استفاده از تحلیل چهره در عکس های بیمار، در مراحل اولیه شناسایی شوند. بنابراین، اجرای کامل شبکه های عصبی مصنوعی در محیط های درمانی می تواند توانایی های تشخیصی متخصصان پزشکی را افزایش دهد و در نهایت به بهبود کلی کیفیت مراقبت های پزشکی در سراسر جهان منجر شود.
4. دستیارهای شخصی:
   مطمئناً همه شما نام سیری، الکسا، کورتانا و دیگر دستیارهای شخصی را شنیده اید! این دستیارهای شخصی نمونه هایی از تشخیص گفتار هستند که از پردازش زبان طبیعی (NLP) برای تعامل با کاربران و پاسخگویی مناسب استفاده می کنند. پردازش زبان طبیعی از شبکه های عصبی مصنوعی برای مدیریت وظایف مختلف این دستیارهای شخصی استفاده می کند، از جمله مدیریت قواعد نحوی، معنایی، تلفظ صحیح، و مکالمه در حال انجام.