با استفاده از تکنیک های یادگیری عمیق در پیش بینی بازارهای سهام توسط داده های ترکیبی با تجزیه و تحلیل احساسات چند زبانه

2 و

دکتریبرنامه در استراتژی و توسعه صنایع نوظهور ، دانشگاه ملی چی نان ، دانشگاه 1 Rd. ، Puli ، Nantou 54561 ، تایوان

گروه مدیریت اطلاعات ، دانشگاه ملی چی نان ، 1 دانشگاه Rd. ، Puli ، Nantou 54561 ، تایوان

نویسنده ای که مسئول است باید ذکر شود. الکترونیک 2022 ، 11 (21) ، 3513 ؛https://doi. org/10. 3390/electronics11213513

دریافت: 26 سپتامبر 2022 / اصلاح شده: 24 اکتبر 2022 / پذیرفته شده: 25 اکتبر 2022 / منتشر شده: 28 اکتبر 2022

(این مقاله متعلق به شماره ویژه هوش مصنوعی برای تجزیه و تحلیل داده ها است)

خلاصه

:

داده های الکترونیکی کلمه به دهان در رسانه های اجتماعی بر تجارت سهام و اعتماد به نفس بازار سهام تأثیر می گذارد. بنابراین ، تجزیه و تحلیل احساسات از نظرات مربوط به بازارهای سهام در پیش بینی بازارهای سهام بسیار مهم است. با این حال ، تجزیه و تحلیل احساسات فعلی عمدتا به زبان انگلیسی است. بنابراین ، این مطالعه با ترجمه متون غیر بومی انگلیسی زبان به انگلیسی ، تجزیه و تحلیل احساسات چند زبانه را انجام می دهد. در این مطالعه از داده های بدون ساختار از رسانه های اجتماعی و داده های ساختاری ، از جمله داده های معاملاتی و شاخص های فنی ، برای پیش بینی بازارهای سهام استفاده شده است. تکنیک های یادگیری عمیق و مدل های یادگیری ماشین به عنوان روش های قدرتمندی برای مقابله با مشکلات پیش بینی ظاهر شده اند و تعیین پارامترها تا حد زیادی بر عملکرد مدل های پیش بینی تأثیر می گذارد. در این مطالعه از مدل های حافظه کوتاه مدت (LSTM) با استفاده از الگوریتم ژنتیکی (GA) برای انتخاب پارامترهایی برای پیش بینی شاخص های بازار سهام و قیمت سهام شرکت توسط داده های ترکیبی در مناطق غیر بومی انگلیسی زبان استفاده شده است. نتایج عددی نشان داد که مدل LSTMGA توسعه یافته با داده های احساسات چند زبانه ترکیبی پیش بینی دقیق تری نسبت به سایر مدل های یادگیری ماشین با انواع مختلف داده ایجاد می کند. بنابراین ، مدل LSTMGA پیشنهادی با تجزیه و تحلیل احساسات چند زبانه ترکیبی یک روش عملی و امیدوار کننده برای پیش بینی بازار سهام است.

کلید واژه ها:

1. معرفی

بسیاری از مطالعات خاطرنشان کرده اند که هنگام بررسی موضوعات اجتماعی ، داده های مربوط به رفتارهای رسانه های اجتماعی بیشتر از داده های پرسشنامه بازتاب دهنده تفکر واقعی افراد است. علاوه بر این ، زمان جمع آوری داده ها از رسانه های اجتماعی بسیار نزدیک به زمان واقعی است [1]. مطالعات بی شماری نشان داد که با توجه به داده های تحلیل اساسی ، مانند اخبار وب مالی یا پست های موجود در سیستم عامل های رسانه های اجتماعی ، می تواند به طور مؤثر عملکرد قیمت سهام پیش بینی را بهبود بخشد. علاوه بر این ، تقریباً یک سوم تا دو سوم سرمایه گذاران از رسانه های اجتماعی در تصمیمات سرمایه گذاری خود برای جمع آوری و یادگیری اطلاعات در مورد شرکت های مربوطه استفاده کردند. بنابراین ، نظرات رسانه های اجتماعی میزان مشخصی از تأثیر بر قیمت سهام دارند [2]. وو و همکاران.[3] از داده های سهام تاریخی ، شاخص های فنی و داده های غیر سنتی مانند پست های سهام و اخبار مالی استفاده کرد تا قیمت سهام را با حافظه کوتاه مدت طولانی پیش بینی کند. داده های غیر سنتی در شبکه عصبی حلقوی برای محاسبه شاخص احساسات سرمایه گذاران به کار گرفته شد. نتایج تجربی نشان داد که روش پیشنهادی می تواند مقادیر دقیق تری نسبت به منبع داده واحد ارائه دهد. KO و Chang [4] از ابزار پردازش زبان طبیعی برای شناخت احساسات متن اخبار و بحث انجمن بولتن PTT (BBS) استفاده کردند. از روش حافظه کوتاه مدت بلند برای پیش بینی قیمت سهام استفاده شد. نتایج عددی نشان داد که استفاده از اخبار و ویژگی های PPT باعث بهبود دقت پیش بینی شده است. رن و همکاران.[5] از ماشین های بردار پشتیبانی با داده های بازار مالی و شاخص های احساسات استخراج شده از اخبار گرفته تا پیش بینی حرکات بازار سهام استفاده شده است. اثر روز هفته در این مطالعه در نظر گرفته شد. بنابراین ، از عملکرد زمان نمایی برای افزایش تأثیر اخبار اخیر استفاده شد. نتایج تجربی نشان داد که روش پیشنهادی می تواند پس از در نظر گرفتن ویژگی های احساسات ، دقت پیش بینی را افزایش دهد. گوپتا و همکاران.[6] داده ها و داده های تاریخی بازار سهام هند را از توییتر ادغام کرد تا قیمت سهام را با حافظه کوتاه مدت طولانی پیش بینی کند. TextBlob ، یک کتابخانه پایتون برای پردازش داده های متنی ، داده های احساسات را اندازه گیری کرد. این مطالعه گزارش داد که حرکات در قیمت سهام و انتشارات خبری دارای همبستگی شدیدی است. جینگ و همکاران.[7] یک مدل ترکیبی را برای ادغام تکنیک های یادگیری عمیق و تجزیه و تحلیل احساسات برای پیش بینی قیمت سهام تهیه کرد. مدل شبکه عصبی Convolutional برای اولین بار برای طبقه بندی احساسات سرمایه گذاران به کار گرفته شد. سپس،

شبکه های حافظه کوتاه مدت برای انجام پیش بینی ها توسط شاخص های فنی و ویژگی های احساسات مورد استفاده قرار گرفتند. نتایج عددی نشان داد که روش ارائه شده می تواند نتایج دقیق تری نسبت به مدل های بدون داده ایجاد کند. وانگ و همکاران[8] از نظرات سهام Easy Money برای توسعه یک طبقه بندی احساسات برای تحلیل بازارهای سهام توسط مدل حافظه کوتاه مدت استفاده کرد. نتایج عددی نشان داد که احساسات آنلاین سرمایه گذاران تأثیر قابل توجهی بر حجم معاملات و بازده سهام دارد. برای جمع آوری ویژگی های احساسات، شی و همکاران.[9] یک سیستم تجزیه و تحلیل احساسات با سه مدل طبقه بندی، از جمله شبکه های عصبی کانولوشن، شبکه های عصبی بازگشتی و رگرسیون لجستیک طراحی کرد. سپس از ماشین های بردار پشتیبان برای پیش بینی حرکات بازارهای سهام استفاده شد. نتایج تجربی نشان داد که داده های ترکیبی معاملات سهام و اطلاعات احساسات می تواند نتایج پیش بینی رضایت بخشی ایجاد کند.

علاوه بر این ، شاخص های فنی نقش اساسی در تجزیه و تحلیل بازارهای سهام دارند. چانگ و شین [10] از پنج شاخص فنی استفاده کردند ، از جمله میانگین متحرک 10 روزه ساده ، میانگین متحرک وزن 10 روزه ، شاخص مقاومت نسبی ، k تصادفی و تصادفی D ٪ و پنج ارزش تاریخی ، از جمله قیمت بالا ، پایینقیمت ، قیمت افتتاح ، قیمت بسته شدن و حجم معاملات ، به عنوان متغیرهای ورودی برای انجام وظایف پیش بینی در بازارهای سهام. روش پیش بینی مورد استفاده یک رویکرد یادگیری عمیق با الگوریتم ژنتیکی است. نتایج عددی نشان داد که مدل طراحی شده می تواند مقادیر اندازه گیری خطای کوچکتر را نسبت به مطالعات قبلی بدست آورد. Fischer و Krauss [11] از سهام شبکه حافظه کوتاه مدت بلند مدت برای پیش بینی جهت حرکت در بازارهای سهام S& P 500 استفاده کردند. این مطالعه نشان داد که مدل پیشنهادی از سه روش طبقه بندی بدون حافظه بهتر عمل می کند. کامارا و همکاران.[12] یک مدل ترکیبی تقویت شده از یادگیری عمیق و تجزیه و تحلیل فنی را برای پیش بینی قیمت سهام طراحی کرد. دو شبکه برای انجام کار استخراج ویژگی به کار رفته است: شبکه عصبی حلقوی مبتنی بر توجه و حافظه کوتاه مدت دو طرفه متنی. یک شبکه عصبی چند لایه Perceptron سپس از ویژگی های استخراج شده برای پیش بینی قیمت سهام استفاده می کرد. این مطالعه ادعا کرد که مدل ترکیبی پیشنهادی نسبت به هفت رویکرد دیگر در مورد دقت پیش بینی برتر است. لو و همکاران.[13] یک روش پیش بینی یادگیری عمیق با هشت ویژگی برای پیش بینی قیمت های بسته شدن یک روزه ایجاد کرد. از شبکه عصبی Convolutional برای استخراج ویژگی های 10 روز گذشته استفاده شد. سپس از داده های ویژگی جمع آوری شده و داده های معاملات سهام برای آموزش مدل حافظه کوتاه مدت کوتاه استفاده شد. این مطالعه نشان داد که مدل یادگیری عمیق طراحی شده از 5 مدل شبکه عصبی دیگر در دقت پیش بینی برتر است. جین و همکاران.[14] یک مدل حافظه کوتاه مدت اصلاح شده با مکانیسم توجه را پیشنهاد کرد که مدل را قادر می سازد تا روی اطلاعات مهم تر برای پیش بینی قیمت های بسته متمرکز شود. متغیرهای ورودی داده های معاملاتی و تمایل احساسات را در نظر گرفتند. این مطالعه نتیجه گرفت که گرایش عاطفی سرمایه گذاران یک عامل مهم در بهبود عملکرد پیش بینی است.

علاوه بر این ، انتخاب ابزارهای تجزیه و تحلیل احساسات چند زبانه برای ارزیابی نگرش سرمایه گذاران انگلیسی زبان غیر بومی بسیار مهم است. برخی از روشهای مبتنی بر ترانسفورماتور برای کارهای چند زبانه معمولاً استفاده شده است ، مانند XLM (مدل های زبان متقابل) [15] ، XLM-R (XLM-Roberta) [16] ، MBART (بارت چند زبانه) [17]. Palomino و Ochoa-Luna [18] یک روش مبتنی بر ترانسفورماتور را برای تجزیه و تحلیل احساسات چند زبانه ارائه دادند. BERT و ULMFIT برای پیش بینی قطبیت توییت های چند زبانه ترکیب شدند. پی و همکاران.[19] با ادغام لایه BILSTM در جمله تعبیه زبان-آگنوستیک BERT (LABSE) یک ابزار تجزیه و تحلیل احساسات Uyghur ایجاد کرد. از LABSE برای رمزگذاری داده های ورودی استفاده شد ، و سپس BILSTM می تواند اطلاعات بیشتری را از زمینه ورودی بیاموزد. نتایج تجربی خاطرنشان می کند که مدل توسعه یافته می تواند عملکرد فوق العاده ای داشته باشد. Araújo و همکاران.[20] عملکرد تجزیه و تحلیل احساسات خاص زبان را در مقایسه با روشهای تحلیل احساسات موجود برای محتوای انگلیسی بررسی کرد. این مطالعه خاطرنشان کرد: ترجمه متن بیان شده به زبان های مختلف به انگلیسی. سپس ، با استفاده از ابزارهای تحلیل احساسات انگلیسی موجود می توانند نتایج بهتری نسبت به استفاده از تکنیک خاص زبان به طور مستقیم در ارزیابی احساسات متن چند زبانه ایجاد کنند.

تکنیک های یادگیری عمیق توانایی های امیدوارکننده ای را در ضبط ویژگی های غیر خطی نشان داد و بنابراین می تواند منجر به پیش بینی های دقیق برای پیش بینی بازار سهام شود. لو و همکاران.[21] یک مدل حافظه کوتاه مدت بلند مدت را برای پیش بینی سود بازار سهام ارائه داد. الگوریتم تطبیقی قورباغه تطبیقی برای جستجوی پارامترهای بیش از حد مناسب تهیه شده است. این مطالعه برتری مدل پیشنهادی را با انجام مقایسه با شبکه های عصبی مصنوعی ، دستگاه های بردار پشتیبانی ، مدل های خاکستری و حافظه کوتاه کوتاه بلند نشان داده است. Kanwal و همکاران.[22] یک مدل یادگیری عمیق ترکیبی ، یعنی bicudlstm-1dc ، با ادغام یک شبکه عصبی عمیق دو طرفه Cuda Deep Memory حافظه کوتاه مدت و یک شبکه عصبی یک بعدی برای پیش بینی قیمت سهام طراحی کرد. دو مجموعه داده برای بررسی عملکردهای پیش بینی شده ، از جمله موارد سهام فردی و شاخص های عملکرد بورس استفاده شده است. این تحقیق خاطرنشان می کند که مدل های ارائه شده می توانند نتایج پیش بینی دقیقی را در تصمیم گیری در سرمایه گذاری در بازار سهام مفید ایجاد کنند. وانگ و همکاران.[23] از مدل ترانسفورماتور برای پیش بینی شاخص های بورس سهام CSI 300 ، S& P 500 ، شاخص Hang Seng و Nikkei 225 استفاده کرد. قوانین اساسی تر را می توان با معماری رمزگذار رمزگذار و مکانیسم توجه چند سر توصیف کرد. این مطالعه نشان داد که ترانسفورماتور از سایر تکنیک های کلاسیک بهتر عمل کرده و برای سرمایه گذاران مفید است. گائو و همکاران.[24] از قانون مشهود و الگوریتم ژنتیکی در شبکه های عصبی مکرر برای پیش بینی جهت های حرکت روزانه شاخص S& P 500 ، شاخص متوسط صنعتی داو جونز و شاخص NASDAQ 100 استفاده کرد. نتایج عددی نشان داد که مدل طراحی شده به طور مؤثر عملکرد طبقه بندی را بهبود می بخشد. کومار و همکاران.[25] یک شبکه حافظه کوتاه مدت کوتاه و بهینه سازی ذرات تطبیقی (PSO) مبتنی بر مدل یادگیری عمیق ترکیبی برای پیش بینی قیمت سهام در Sensex ، S& P 500 و Nifty 50 ارائه داد. PSO برای ارائه وزن اولیه طولانی استفاده شدحافظه کوتاه مدت و لایه کاملاً متصل. این تحقیق نشان داد که مدل پیشنهادی می تواند نتایج پیش بینی دقیق را ایجاد کند. Aldhyani و Alzahrani [26] یک شبکه عصبی ترکیبی ترکیبی با حافظه کوتاه مدت بلند مدت (CNN-LSTM) برای پیش بینی قیمت های بسته شدن بازارهای سهام ایجاد کردند. قیمت نزدیک سهام دو شرکت ، یعنی Tesla ، Inc. و Apple ، Inc.

برای اندازه گیری عملکرد پیش بینی مدل پیشنهادی مورد استفاده قرار گرفت. این مطالعه نشان داد که مدل CNN-LSTM در دقت پیش بینی برتر از مدل اصلی LSTM است. Ratchagit و Xu [27] برای سه تکنیک یادگیری عمیق ، از جمله MLP ، CNN و LSTM ، یک روش دو تأخیر ارائه دادند. از داده های سهام سه شرکت ، یعنی Microsoft Corporation ، Johnson & Johnson و Pfizer Inc. برای بررسی عملکردهای پیش بینی استفاده شد. نتایج عددی نشان داد که مدل دو تأخیر پیشنهادی از سایر تکنیک های پیش بینی ترکیب خطی بهتر عمل می کند.

در جدول 1 ادبیات مرتبط اخیر در سال 2022 در مورد انواع داده ها ، انواع مشکل و بازارهای سهام ذکر شده است. بیشتر مطالعات قبلی از داده های ساختاری منحصر به فرد یا داده های بدون ساختار به صورت جداگانه در تجزیه و تحلیل بازارهای سهام استفاده می کردند. بنابراین ، این مطالعه سعی در بهره برداری از قدرت منحصر به فرد داده های ساختاری و بدون ساختار در تقویت قابلیت های مدل های LSTMGA برای پیش بینی قیمت سهام شرکت ها و شاخص های بورس سهام به روش رگرسیون داشت. علاوه بر این ، در این مطالعه ، پست های چند زبانه رسانه های اجتماعی توسط Google ترجمه به انگلیسی ترجمه شده است ، و سپس از Sendistrenge برای ارزیابی احساسات پست ها به زبان انگلیسی استفاده شد. ترجمه Google برای ترجمه پست های چند زبانه رسانه های اجتماعی استفاده شد. چهار روش پیش بینی دیگر ، شبکه های عصبی Backpropagation (BPNN) ، حداقل رگرسیون بردار پشتیبانی مربع (LSSVR) ، جنگل تصادفی (RF) و تقویت شیب شدید (XGBoost) ، برای انجام کارهای پیش بینی با همان داده ها استفاده شدند. و از الگوریتم ژنتیکی برای تعیین پارامترهای مدل ها استفاده شد. عملکرد پیش بینی با میانگین خطای درصد مطلق (MAPE) و میانگین خطای مربع (RMSE) اندازه گیری شد.

بقیه این مطالعه به شرح زیر سازماندهی شده است. بخش 2 شبکه های حافظه کوتاه مدت بلند مدت را معرفی می کند. بخش 3 معماری این مطالعه را برای پیش بینی قیمت سهام با تجزیه و تحلیل احساسات نشان می دهد. بخش 4 نتایج تجربی مدل های پیشنهادی را نشان می دهد. نتیجه گیری در بخش 5 ارائه شده است.

2. شبکه های حافظه کوتاه مدت بلند مدتشبکه های حافظه کوتاه مدت بلند مدت (LSTM) ، که توسط Hochreiter و Schmidhuber [28] پیشنهاد شده است ، اخیراً در زمینه های مختلف پیش بینی مانند حرکات قیمت سهام [11] ، همه گیر [29] ، بارندگی [30] ، سطح دریا با موفقیت استفاده شده است.[31] ، مصرف انرژی [32] و فروش [33]. LSTM با مشکل ناپدید شدن شیب و وابستگی های طولانی مدت به سختی در شبکه های عصبی مکرر هنگام پردازش توالی های طولانی مقابله کرد. حالت های سلول برای ذخیره حافظه بلند مدت به حافظه کوتاه مدت طولانی اضافه می شوند. از این رو ، اطلاعات ضروری را می توان برای مدت طولانی ذخیره کرد و اطلاعات قبلی را می توان با کارهای فعلی مرتبط کرد. شکل 1 سلول حافظه شبکه های حافظه کوتاه مدت بلند مدت را نشان می دهد [34،35،36].شبکه حافظه کوتاه مدت بلند مدت از دروازه فراموش شده (XF T) ، دروازه ورودی (از جمله X I T و C T) ، دروازه خروجی (XO T) و حالت سلول (C T) تشکیل شده است. The Offer Gate کنترل می کند که چه اطلاعاتی از بین می رود و چه مقدار اطلاعات به حافظه سلول بعدی اضافه می شود. دروازه ورودی تعیین می کند که آیا اطلاعات جدید وارد حافظه می شود یا خیر. در عوض ، دروازه خروجی مشخص می کند که آیا اطلاعات به روز شده باید به لایه بعدی شبکه ها منتقل شود. محاسبه شبکه حافظه کوتاه مدت طولانی به روشی از دنباله ورودی بیان شده است