مروری بر استفاده از حافظه بلند مدت برای پیش بینی قیمت سهام

Sanket Chaudhari، K Rajeswari، Sushma Vispute، 2021، مروری بر استفاده از حافظه بلند مدت برای پیش بینی قیمت سهام، مجله بین المللی تحقیقات مهندسی و فناوری (IJERT) جلد 10، شماره 10، شماره 10

• دسترسی آزاد

دانلود مقاله / تعداد بازدید: 996

• نویسندگان: Sanket Chaudhari، K Rajeswari، Sushma Vispute
• شناسه کاغذ: IJERTV10IS110117
• دوره و شماره: جلد 10، شماره 11 (نوامبر 2021)
• تاریخ انتشار (اول آنلاین): 29/11/2021
• ISSN (آنلاین): 2278-0181
• نام ناشر: IJERT
• مجوز: این اثر تحت مجوز Creative Commons Attribution 4. 0 بین المللی مجوز دارد

مروری بر استفاده از حافظه بلند مدت برای پیش بینی قیمت سهام

دانشجو، گروه مهندسی کامپیوتر، کالج مهندسی پیمپری چینچواد، پونا، هند

HOD، گروه مهندسی کامپیوتر، کالج مهندسی Pimpri Chinchwad، پونا، هند

دستیاراستاد، گروه مهندسی کامپیوتر، کالج مهندسی پیمپری چینچواد،

چکیده بازار سهام مورد توجه سرمایه گذاران و برنامه نویسان کامپیوتر قرار گرفته است. برآورد قیمت بورس اوراق بهادار یک چالش عالی است زیرا بسیار پیچیده است و محیطی آشفته و پویا دارد. تحقیقات زیادی در سرتاسر جهان برای پیش بینی مؤثر قیمت های سهام آتی انجام شده است. یادگیری ماشین به طور گسترده ای در پیش بینی قیمت سهام استفاده می شود. این مشکل تحت پیش بینی سری زمانی قرار می گیرد که با تجزیه و تحلیل داده های سری زمانی قیمت سهام قابل حل است. حافظه بلند مدت (LSTM) بهتر عمل می کند و تأثیر قابل توجهی بر مشکلات سری زمانی دارد. این مقاله بر روی مدل های مختلف LSTM تمرکز دارد که می تواند برای پیش بینی قیمت سهام استفاده شود. LSTM از شبکه عصبی بازگشتی (RNN) سرچشمه می گیرد و می تواند وابستگی های طولانی مدت را ذخیره کند. این مقاله چالش ها و مزایای مدل های مورد مطالعه را پوشش می دهد. LSTM طولانی با تجزیه و تحلیل احساسات را می توان برای توجه به احساسات فعلی در بین مردم در مورد سهام انتخابی اتخاذ کرد.

کلید واژه ها جزء; قالب بندی؛سبک؛طراحی ظاهر؛درج (کلمات کلیدی) بازار سهام، سرمایه گذاران، یادگیری ماشینی، LSTM، سری زمانی، RNN، احساسات.

1. مقدمه صاحبان واقعی یک موسسه سهام خود را به دیگران می فروشند تا از طریق سرمایه گذاری و به نوبه خود برای رشد شرکت ، قدرت مالی کسب کنند. خریدار این سهام بخشی از شرکت را در اختیار دارد. قیمت سهام در نتیجه عرضه و تقاضا تغییر می کند. فرض کنید وقتی تعداد بیشتری از مردم می خواهند برای سهام خرید کنند ، هزینه افزایش می یابد زیرا نیاز بیشتری وجود دارد. هنگامی که تعداد بیشتری از مردم مایل به رها کردن سهام هستند ، هزینه کاهش می یابد زیرا ممکن است تحویل بیشتری از تقاضا داشته باشد. یا درک پیشنهاد و تقاضا ساده است ، برای تعیین سهم عواملی که باعث افزایش تقاضا یا عرضه می شود دشوار است. این عوامل غالباً به عوامل اجتماعی مانند رفتار بازار ، افزایش قیمت ، روند و از همه مهمتر بستگی دارد ، آنچه در مورد شرکت در اخبار خوب است و چه چیزی مضر است. سرمایه گذاری در سهام یک کار پیچیده است و برای به دست آوردن بازده بالا به دانش عمیق و مطالعه بازار نیاز دارد. با پیشرفت در تکنیک های رایانه ای مانند ML و AI پیش بینی قیمت سهام ، برنامه نویسان را مجذوب خود کرده است. پیش بینی قیمت سهام با مدل های خطی به بهترین وجه دقیق نیست ، این یک فرآیند پیچیده بسته به ماهیت پویا سهام و همچنین احساسات عمومی است. با مطالعه عمیق مناسب ، انسان ها موفق به پیش بینی قیمت ها شده اند. اما این همه فنجان چای نیست تا وقت و انرژی زیادی را اختصاص دهد. این سؤال پیش می آید که ما می توانیم چیزی بسازیم که بتواند مانند انسان فکر کند. این شبکه های عصبی را در تصویر به ارمغان می آورد. NN سنتی نمی تواند حافظه ای را که برای پیش بینی بهتر قیمت سهام لازم است ، ذخیره کند. سپس می توان از RNN استفاده کرد اما آنها نیز از ناپدید شدن شیب رنج می برند و در ذخیره وابستگی های طولانی مدت ناکام هستند [1]. شبکه های مکرر از حالت حافظه برخوردار هستند که می توانند اطلاعات پس زمینه را ذخیره کنند و می توانند جزئیات مربوط به ورودی های گذشته را ذخیره کنند ، اما میزان مدت زمانی که می تواند به خاطر داشته باشد این ثابت نیست. این زمان به وزن ، زمینه و داده های ورودی ارائه شده بستگی دارد. LSTM با مشکل وابستگی های طولانی مدت که RNN فاقد آن بود که RNN نتوانست از اطلاعات منتقل شده به آن در مراحل اولیه استفاده کند ، حل کرد. در نتیجه ، مدل RNN همیشه نمی تواند نتایج دقیقی را برای بلند مدت ارائه دهد ، اما می تواند بر اساس داده های اخیر نتیجه دقیق تری ارائه دهد. LSTM Advance RNN است. LSTM به طور پیش فرض می تواند اطلاعات را برای مدت طولانی برای خدمت به شبکه بهتر حفظ کند. با LSTM ، می توان اطلاعات معنی دار و مرتبط با متن را برای طولانی مدت ذخیره کرد در حالی که می توان اطلاعات کمتری را حذف کرد.
2. این حذف و افزودن اطلاعات توسط گیت های LSTM کنترل می شود. پیش بینی قیمت سهام یک مسئله سری زمانی است که در آن داده ها مجموعه ای از داده های رفتار پراکنده چندین حوزه مانند علوم اجتماعی، مالی، مهندسی، فیزیک و اقتصاد است. امور مالی، مهندسی، فیزیک و اقتصاد همه زمینه های تحصیلی هستند. در صورت وجود چنین پیچیدگی، پیش بینی الگوهای قیمت بسیار دشوار است. پیش بینی یک سری از سری های زمانی بیشتر برای ایجاد مدل های شبیه سازی ارزش آینده بر اساس مقادیر قبلی آنها استفاده می شود. رابطه بین شناخت گذشته و آینده اغلب مبهم است، که به منزله آشکار کردن توزیع فرصت های مشروط به عنوان تابعی از آینده نگری است. تقریباً هر تحقیقی بر روی این پارامترهای داده های سهام تمرکز می کند. با مطالعه این عوامل، سیستم های متعددی برای تخمین قیمت آتی یک سهم [4]، [5] ایجاد می شود. این مقاله مدل های مختلف LSTM توسعه یافته و مورد استفاده برای پیش بینی قیمت سهام را با توجه به مقالات منتشر شده موجود مطالعه می کند. مقالات بر اساس مجموعه داده های مورد استفاده، مدل پیاده سازی شده، نتایج و هر حوزه آینده در صورت امکان تجزیه و تحلیل خواهند شد.

   بررسی ادبیات LSTM بهتر از واحد مکرر دروازه در داده های غیر خطی کار می کند [6] و همچنین سهام شامل مقدار زیادی از داده های غیر خطی است. استیاکه سانی و همکاران.[6] چارچوب جدیدی را برای پیش بینی قیمت سهام معرفی کرد که در آن وی از دو مدل برجسته RNN ، LSTM و BI-LSTM استفاده کرد. با تغییر مقدار دوره ها ، لایه های متراکم ، لایه های پنهان و بسیاری از عناصر لایه های پنهان مورد استفاده برای کشف تناسب پیش بینی کننده ای که ممکن است برای پیش بینی وقایع آینده استفاده شود ، هر دو مدل می توانند با RMSE کم در یک مجموعه داده آزاد در دسترس از مالی یاهو ، دقت بالایی داشته باشندبشرمدل BI-LSTM در مقایسه با LSTM معیارهای RMSE کمتری را ارائه می دهد اما زمان بیشتری برای محاسبه نیاز داشت [6]. مشکل پیش بینی بازار سهام این است که مبتنی بر تعداد عظیمی است [2] ، مقدار زیادی از داده ها و تا حد زیادی به گذشته بلند مدت وابسته هستند. در نتیجه ، LSTM [2] ، [6] خطای را با کمک به RNN ها با ذخیره اطلاعات برای استفاده بعدی تنظیم می کند. پیش بینی با پیشرفت مرحله به طور فزاینده ای دقیق می شود [2]. بنابراین ، نشان می دهد که بسیار قابل اعتماد تر از سایر روش ها است. ایشیتا پارمار و همکاران.[2] یک مدل LSTM را پیشنهاد کرد که در آن دو لایه LSTM با مقدار خروجی 256 و فاکتور ترک تحصیل به عنوان 0. 3 برای افزایش سرعت تمرین روی یکدیگر جمع شدند. نمره آزمون 0. 00875 MSE برای مدل LSTM انباشته [2] بدست آمد. Sirimevan [7] از همبستگی بین قیمت سهام و احساسات برای بهبود پیش بینی استفاده کرده است. احساسات توییتر ، اخبار وب ، از داده های سهام تاریخی به همراه و قیمت سهام زنده از API مالی یاهو استفاده شده است. نمرات احساسات از توییتر و وب و Google Trend به LSTM تک متغیره و چند متغیره وارد شده است [7]. مدل ها از طریق گروه متوسط وزنی یکپارچه شدند [7]. دقت در روزها کاهش یافته است. برای روز اول ، بهترین دقت نمره پیش بینی 0. 99 بود ، به مدت هفت روز 0. 92 و تا سی روز به 0. 62 کاهش یافت. LSTM توسط نلسون و همکاران استفاده شد [3]برای پیش بینی الگوهای قیمت سهام آینده با استفاده از قیمت سهام و داده های تحلیل فنی. مدل LSTM پیشنهادی دقت بیشتری نسبت به مدلهای موجود یادگیری ماشین مانند جنگل های تصادفی RF ، چند لایه Perceptron MLP و مدلهای شبه تصادفی نشان داده است. در آزمایشات [3]. این مدل با یک پنجره نورد در ذهن ایجاد شده است. در پایان هر تجارت DA ، یک شبکه عصبی تازه ساخته شد ، به این معنی که مجموعه ای از وزنهای تازه با استفاده از مجموعه جدیدی از آموزش مدل و داده های توجیهی منشا گرفته شده است.	این مدل با استفاده از داده های 10 ماه تجارت قبلی قبل از امروز آموزش داده می شود و عملکرد مدل با استفاده از داده های هفته گذشته احراز هویت می شود. این مدل با TensorFlow گوگل ساخته شده است و از یک لایه خروجی سیگموئید تشکیل شده است که توسط یک لایه ورودی LSTM تغذیه می شود که هم نشانگرهای فنی و هم داده های ارزش گذاری سهام را به عنوان ورودی می گیرد [3]. سرمایه گذاران به داده های تاریخی به عنوان پایه ای برای تصمیم گیری های سرمایه گذاری اهمیت می دهند[4]. در لایه توجه، مدل داده های ورودی را از طریق محاسبه وزن داده های ورودی انتخاب و یاد می گیرد. لایه توجه بردار ویژگی [4] را وزن کرد. برای پیش بینی کوتاه مدت و بلند مدت بازار سهام، K. A. Althelaya و همکاران.[8] Stacked LSTM و Bidirectional LSTM را توسعه داد. نویسندگان از داده های تاریخی از شاخص استاندارد و ضعیف 500 (S& P500) استفاده کردند [8]. داده ها از قبل پردازش و نرمال سازی شدند. به عنوان خط پایه، NN کم عمق و شکل اصلی LSTM مورد استفاده قرار گرفت. به منظور تجزیه و تحلیل عملکرد سیستم، از قیمت بسته شدن استفاده شد. نویسندگان دو سیستم را ارائه کردند، یکی برای پیش بینی کوتاه مدت (یک روز) و دیگری برای پیش بینی بلندمدت (30 روز)، که هر دو اندازه پنجره 10 روزه دارند. هر دو مدل در برابر مدل های مختلف، یعنی MLP-ANN و LSTM، ارزیابی و متمایز شدند تا عملکرد آنها ارزیابی شود. در ارزیابی مدل های دیگر، BLSTM [8] امتیاز RMSE و MAE پایین تری داشت. برای پیش بینی های کوتاه مدت و بلندمدت، BLSTM از مدل های فعلی بهتر عمل کرد و به همگرایی بیشتری دست یافت [8]. M. Nikou یک مدل LSTM پیشنهاد کرد و آن را با مدل های ANN، رگرسیون بردار پشتیبانی (SVR) و مدل های RF مقایسه کرد. نتایج نشان داد که مدل LSTM در پیش بینی قیمت سهام روز پایانی iShares MSCI انگلستان بهتر از مدل های دیگر در این مطالعه عمل کرد [9]. Sumeet Sarode [10] و همکارانش LSTM را با جدیدترین داده های تجاری و شاخص های تجزیه و تحلیل به عنوان ورودی به کار گرفتند. اخبار از مجموعه عظیمی از اخبار تجاری برای تحلیل اخبار جمع آوری می شود. هنگامی که قیمت افزایش می یابد، نتایج برای ارائه یک پیشنهاد ترکیب می شوند. LSTM و انواع آن توسط کلاوس گرف و همکاران مورد مطالعه قرار گرفته است.[11] در کارشان. آنها 8 نوع LSTM را مطالعه کردند. دروازه ها نقش عمده ای در LSTM دارند [11]. جدول I. خلاصه مرور ادبیات	عنوان	نویسنده	سال	مدل	مجموعه داده	معیارهای عملکرد
   نتیجه	نظرات	2020	پیش بینی قیمت سهام مبتنی بر یادگیری عمیق با استفاده از مدل LSTM و دو جهته LSTM [6]	ایستیکه سانی مد عارف، ماسوود میرزا محد شهریار، الحربی ع.	LSTM، BI-LSTM	یاهو فاینانس	RMSE.
   BI-LSTM RMSE پایینی داد	پارامترهای هایپر در مقادیر مختلف تنظیم شدند.	2018	پیش بینی بازار سهام با استفاده از یادگیری ماشینی [2]	ایستیکه سانی مد عارف، ماسوود میرزا محد شهریار، الحربی ع.	رگرسیون، LSTM.	یاهو فاینانس	RMSE، MSE.
   LSTM دقت بهتری نسبت به مدل رگرسیون با RMSE 0. 09 نشان داد	مقایسه نشان داد که LSTM بهتر است.	2019	پیش بینی بازار سهام با استفاده از تکنیک های یادگیری ماشینی[7]	نادون سیریموان، I. G. U. H. Mamalgaha، Chandira Jayasekara، Y. S. Mayuran، Chandimal Jayawardena.	مدل مجموعه با ادغام تک متغیره LSTM، چند متغیره LSTM تشکیل شده است.	API مالی یاهو، اخبار وب، ترندهای گوگل، احساسات توییتر	دقت.
   مدل مجموعه ثابت کرد که بسیار دقیق است	به منظور ایجاد یک مدل پیش بینی ایده آل واحد، مدل های پایه متعددی همراه شدند. دقت با گذشت زمان کاهش یافت. تأثیر احساسات با گذشت زمان کاهش یافت	2017	پیش بینی حرکت قیمت بازارهای سهام با شبکه های عصبی LSTM[3]	دیوید ام کیو نلسون، آدریانو سی ام پریرا، رناتو آ. دی اولیویرا.	LSTM از TensorFlow.	داده های بورس اوراق بهادار برزیل (پایگاه داده Candlestick.)	دقت، دقت، فراخوان، امتیاز F1، درصد بازگشت، حداکثر کاهش
   LSTM دقیق تر از RF، MLP و شبه تصادفی است	این مدل در تعدادی از سهام برزیل استفاده شد و در شناسایی تفاوت های بالا موفق بود. کمی واریانس بالا داشت.	2019	پیش بینی قیمت سهام بر اساس شبکه عصبی LSTM [4]	دو وی	توجه LSTM لایه ای	شاخص سهام چین	تاخیر
   برای زمان کوچک خروجی پنجره پسماند بود	تاخیر زمانی برای بازه زمانی کوچکبا افزایش بازه زمانی تاخیر زمانی کاهش می یابد.	2018	ارزیابی LSTM دو طرفه برای پیش بینی کوتاه مدت و بلندمدت بازار سهام [8]	خالد ع. الثلایا، السید م. الفی، صلاح الدین محمد	LSTM انباشته، BI-LSTM	(S& P500) از Yahoo Finance	MAE، RMSE، و ضریب تعیین R2

3. BI-LSTM: 0. 0289 و 0. 0746 RMSE برای کوتاه مدت و بلند مدت. SLSTM: 0. 0382 RMSE و 0. 090

در کوتاه مدت و بلند مدت، شبکه BLSTM به نتایج برتر و همگرایی عالی دست یافت. مدل ها در کوتاه مدت بهتر از بلند مدت عمل کردند.

روش ها

قیمت بسته شدن باز ، نزدیک ، بالا ، پایین ، تنظیم شده و حجم همه در چندین مجموعه داده مورد استفاده برای پیش بینی قیمت گنجانده شده است. حداکثر و حداقل قیمت یک سهام خاص در یک روز معین به ترتیب زیاد و پایین گفته می شود. بسته شدن تعدیل شده به قیمت بسته شدن پس از در نظر گرفتن هرگونه اقدامات شرکتی ، بر خلاف قیمت بسته شدن خام ، اشاره دارد. سرانجام ، حجم به تعداد سهام مورد نظر و هر روز معامله و خریداری می شود. درآمد هر سهم (EPS) یک معیار کلیدی است که سودآوری یک شرکت را اندازه گیری می کند. نسبت قیمت به درآمد (P/E) است

1. نسبت قیمت سهام فعلی نگرانی به درآمد آن در هر سهم (EPS) [5].
2. Deep Leaing زیر مجموعه ای از الگوریتم های یادگیری ماشین است که مبتنی بر بازنمایی داده های یادگیری است. مدل های یادگیری عمیق از شبکه ای از واحدهای پردازش غیر خطی چند لایه موسوم به نورون استفاده می کنند که می توانند به طور خودکار ویژگی ها را استخراج و تبدیل کنند. یک شبکه عصبی مصنوعی شبکه ای از چنین نورونهایی است. لایه های آن از خوشه های گره هایی تشکیل شده اند که برای تولید منظره ای از مغز انسان همراه هستند. عملکرد یک لایه به عنوان ورودی به لایه بعدی تغذیه می شود. این مدل های سیستم برای یادگیری از داده های آموزشی خود دارای یک پیشرفت هستند.

شبکه عصبی مکرر (RNN) یک شبکه عصبی مکرر (RNN) نوعی شبکه عصبی مصنوعی (ANN) است. RNN ها نوعی شبکه عصبی هستند که برای مقابله با ورودی پی در پی [5] طراحی شده اند و از سلولهای مکرر معمولی تشکیل شده اند ، که در آن شبکه های بین نورونها یک نمودار کارگردانی را تشکیل می دهند ، یا به عبارت دیگر پنهان می شوند. لایه ها یک حلقه خود دارند. این به RNN ها اجازه می دهد تا با استفاده از وضعیت قبلی نورون های پنهان ، وضعیت فعلی را بیاموزند ، و همچنین RNN از اطلاعاتی که قبلاً به موقع آموخته اند و ورودی فعلی استفاده می کنند [6]. این به آنها امکان می دهد طیف گسترده ای از مهارت ها را بیاموزند. به رسمیت شناختن دست نویس ، تشخیص گفتار و سایر فعالیت ها از جمله آنها است. شکل 2. RNN های تک لایه شکل 1. یک شبکه عصبی مکرر بدون کنترل در ابتدا (در مرحله T T) ، RNN خروجی HT را برای برخی از XT های ورودی تولید می کند. RNN از دو ورودی ، XT+1 و HT استفاده می کند تا در مرحله بعدی (T+1) خروجی HT+1 را تولید کند. اطلاعات را می توان از طریق یک شبکه از طریق یک حلقه از طریق یک حلقه منتقل کرد [12]. فرض بر این است که تمام واحدهای بردار ورودی در یک شبکه عصبی معمولی به دیگری متکی نیستند. در نتیجه ، در یک شبکه عصبی معمولی ، از اطلاعات پی در پی استفاده نمی شود. در مدل RNN ، داده های پی در پی از یک سری زمانی یک حالت پنهان تولید می کند ، که سپس با خروجی شبکه که به حالت پنهان متکی است ، ترکیب می شود. از آنجا که روند سهام نوعی از شماره های سری زمانی است ، RNN ها مناسب ایده آل برای این برنامه هستند. اگرچه آموزش RNN به دلیل ساختارهای RNNS با گذشت زمان ، اعتماد به نفس معکوس است [13]. در نتیجه ، با گذشت دوره یادگیری ، RNN ها پیچیده تر می شوند. همانطور که در مطالعه ای که توسط Yashoua و همکاران [14] نشان داده شده است ، RNN ها توانایی یادگیری وابستگی های طولانی مدت را ندارند. در حالی که هدف اساسی استفاده از RNN ، درک اعتیاد طولانی مدت است اما به دلیل ناپدید شدن مشکل شیب که هنگام بروزرسانی وزن در هنگام انتشار پشت با استفاده از قانون زنجیره ای به روز می شود ، در آن شکست می خورد ، وزن ها خیلی کوچک می شوند [15]. در نتیجه ، Hochreiter و Schmidhuber روشی به نام حافظه کوتاه مدت بلند (LSTM) [16] در سال 1997 برای مقابله با این وابستگی های طولانی مدت ارائه دادند [16] ..

حافظه کوتاه کوتاه (LSTM)

از آنجا که تغییر از حالت به حالت RNN نشان داده شده است ، مدل یادگیری فقط ابعادی مشابه داده ها را دارد. در هر مرحله از زمان ، معماری همچنین از عملکرد تغییر یکسان استفاده می کند و هیچ استدلال جدید دیگری ندارد [17]. RNN دارای ساختار ماژول های تکراری NN است ، همانطور که در بالا نشان داده شد. در RNN های معمولی این ماژول که تکراری است

دارای یک لایه واحد از تنگی ساده است.

از آنجا که LSTM یک نسخه قبلی از RNN است ، از ساختار زنجیره ای مانند RNN نیز پیروی می کند ، اما به جای یک به روش خاص ، چهار لایه شبکه عصبی دارد [6] ، [12] ، [15].

شکل 3. LSTMS چهار لایه

LSTM از سلولهای حافظه تشکیل شده است که وظیفه ذخیره حافظه و دروازه ها را بر عهده دارند. این دروازه ها جریان داده ها را کنترل می کنند و به عنوان کنترل NOB ها عمل می کنند که وظیفه اختلاط داده ها را بر عهده دارند. داده های موجود در LSTM توسط این دروازه ها دستکاری می شود [6].

واحد حافظه می تواند مقدار خاصی از داده های آموزشی را پیگیری کند. این واحد حافظه متشکل از حالتهای سلولی است که باعث می شود LSTM بتواند وابستگی های طولانی مدت را به خاطر بسپارد. سه دروازه گیت ، دروازه ورودی و دروازه خروجی را فراموش می کنند [3] ، [5] ، [15] ، [16] ، [18].

سلولهای حافظه: آنها حافظه کوتاه مدت و بلند مدت را ذخیره می کنند. این نسبت به کمربند نقاله مشابه است [6]. در کل زنجیره با برخی از فعل و انفعالات بی اهمیت با دروازه ها به شکل عملیات نقطه ای [6] ، [15] ، [17] اجرا می شود.

حالت پنهان: حالت پنهان خروجی یک لایه LSTM است که از ورودی به لایه بعدی تغذیه می شود [5].

لایه سیگموئید مقادیر مختلف از صفر تا یک را تولید می کند ، و این نشان می دهد که چه مقدار از هر عنصر مجاز به عبور است. لایه Tanh یک بردار جدید ایجاد می کند که بیشتر به دولت می پردازد [17].

GATE را فراموش کنید: The Forget Gate وظیفه دارد برخی از اطلاعات را از سلول حافظه فراموش کند. اگر تغییر در متن یا چیزی وجود داشته باشد ، گیت فراموش شده صفرهایی را ایجاد می کند که با سلول حافظه ضرب می شوند و اطلاعات مربوطه فراموش می شوند. این یک بردار با مقادیر بین 0 تا 1 با لایه سیگموئید [2] ، [17] تولید می کند.

دروازه ورودی: دروازه ورودی شرایطی را که تحت آن باید هرگونه اطلاعاتی باید در سلول حالت بر اساس ورودی اضافه شود (به عنوان مثال ، خروجی قبلی OT-1 ، ورودی XT و وضعیت قبلی سلول CT-1) بررسی می کند. بشراین سپس به سلول حافظه اضافه می شود [5] ، [16] ، [17].

دروازه خروجی: فرم فیلتر شده حالت حافظه خروجی خواهد بود. دروازه خروجی مقدار داده هایی را که از حالت سلول حاضر به حالت پنهان منتقل می شود ، کنترل می کند. ابتدا یک لایه سیگموئید را مسیریابی می کنیم تا مشخص کنیم کدام جنبه های حالت سلول خروجی خواهد بود. سپس حالت سلول از طریق Tan h-TANH منتقل می شود (برای اینکه مقادیر در محدود ه-1 تا 1 باشد) و با خروجی دروازه سیگموئید ضرب می شود ، و در نتیجه تنها بخش هایی که ما برای خروجی انتخاب می کنیم [5] ، [[]12]

به روزرسانی سلول حافظه توسط معادلات زیر [11] ، [15] ، [17] ، [18] تعریف شده است:

ft = (wf. [ht1 ، xt] + bf) (1)

it = (wi. [ht1 ، xt] + bi) (2)

ct = tanh (wc. [ht1 ، xt] + bc) (3)

ot = (wo [ht1 ، xt] + bo) (4)

ht = ot tanh (ct) (5)

ft = دروازه را فراموش کنید

HT-1 = خروجی حالت پنهان قبلی. xt = ورودی فعلی

wx = وزن برای دروازه مربوطه = دروازه ورودی

OT = دروازه خروجی

CT = حالت حافظه.

HT = خروجی حالت پنهان فعلی. BX = تعصب برای دروازه های مربوطه

LSTM های یک متغیره زیر به طور مکرر برای استفاده می شوند

جدول II. انواع LSTM که اغلب مورد استفاده قرار می گیرد

LSTM کلاسیک با 4 لایه Nn. دارای سلول حافظه و ورودی دروازه ، فراموش ، خروجی است.

دارای یک لایه پنهان است.

چند مدل LSTM. خروجی یک لایه به عنوان ورودی به بعدی منتقل می شود. دارای چندین لایه پنهان است.

LSTM دو طرفه به جای یکی ، دو دنباله ورودی را آموزش می دهد ، بنابراین نسخه اول اصلی و دوم نسخه معکوس است.

هدف از این کار بررسی مدل های LSTM برای پیش بینی قیمت سهام بود. علیرغم این واقعیت که پس از بررسی عناصر اصلی تأثیرگذار و ترکیب بررسی های اجتماعی متصل به سهام ، پیش بینی قابل اعتماد سهام هنوز دشوار است. تعیین قیمت امکان پذیر نیست. با این حال ، استراتژی های خاصی در دستیابی به تقریب نزدیک موفق بوده اند.

برای پیش بینی سری زمانی از قیمت سهام که عمدتا از LSTM ها برای وابستگی های طولانی مدت آنها استفاده می شود و برای از بین بردن اشکال نزول شیب ناپدید شده RNN ها استفاده می شود. وانیل LSTM ، LSTM انباشته و LSTM دو طرفه متداول ترین مدل های LSTM هستند. مدل ها را می توان با تنظیم مناسب پارامترهای بیش از حد آموزش داد. برای از بین بردن تاخیر زمانی می توان از لایه توجه استفاده کرد و تکرار مرحله ریز از یک بهینه ساز شیب دسته ای کوچک برای سرعت بخشیدن به روند استفاده می شود. BI-LSTM در هنگام ایجاد مدل ها با پارامترهای یکسان ، از دقت بیشتری برخوردار و خطای کم به نظر می رسد.

1. با افزایش اندازه مجموعه داده ها ، دقت مدل با آموزش داده های اضافی بهبود می یابد. از آنجا که قیمت سهام تحت تأثیر احساسات قرار می گیرد ، تجزیه و تحلیل احساسات با مدل های LSTM باعث بهبود دقت می شود. با این حال ، بازه زمانی که در طی آن احساسات باید تأثیر بگذارد. برای همین ، از مدل های مختلف LSTM می توان از آن استفاده کرد و سپس گروه بندی شد. مدل های LSTM در مقایسه با سایر تکنیک ها مشخصات ریسک کم دارند. قیمت های پیش بینی شده کوتاه مدت نسبت به قیمت های پیش بینی شده بلند مدت قابل اطمینان تر است.
2. هنوز مدل های زیادی وجود دارد که می توان از آنها استفاده و بهبود یافت. بر اساس متغیرهای ارزیابی آنها و مجموعه داده های مورد استفاده برای تحقیقات خود ، هر مدل از مزایا و ضرر خاص خود نسبت به سایرین برخوردار است. برخی از مدل ها با داده های تاریخی مؤثرتر هستند ، در حالی که برخی دیگر با داده های احساسات موثرتر هستند. طبق بررسی ادبیات ، مدل BI-LSTM یافته ها را با دقت بیشتری نسبت به سایر مدلهای مورد بررسی پیش بینی کرده است.
3. Y. Bengio ، P. Simard و P. Frasconi ، یادگیری وابستگی های طولانی مدت با تبار شیب دشوار است ، در معاملات IEEE در شبکه های عصبی ، 1994 ، جلد. 5 ، نه. 2 ، صص 157166. doi: 10. 1109/72. 279181.
4. I. پارمار و همکاران ، پیش بینی بازار سهام با استفاده از یادگیری ماشین ، در اولین کنفرانس بین المللی محاسبات و ارتباطات سایبری ایمن (ICSCCC) ، 2018 ، جلد. ICSCCC 2018 ، صص 574576. doi: 10. 1109/ICSCCC. 2018. 8703332.
5. D. WEI ، پیش بینی قیمت سهام بر اساس شبکه lstmneural ، در مجموعه مقالات - کنفرانس بین المللی 2019 اطلاعات مصنوعی و تولید پیشرفته ، AIAM ، اکتبر 2019 ، صص 544 547. DOI: 10. 1109/AIAM48774. 2019. 00113.
6. S. Gavriel ، پیش بینی بازار سهام با استفاده از حافظه کوتاه مدت طولانی ، پایان نامه لیسانس ، دانشگاه Twente. 2021
7. M. A. I. Suy ، M. M. S. Maswood ، and A. G. Alharbi ، پیش بینی قیمت سهام مبتنی بر یادگیری عمیق با استفاده از مدل LSTM و دو جهت دار LSTM ، در دومین کنفرانس علوم هوشمند و پیشرو در حال ظهور ، Niles ، Giza ، مصر ، اکتبر 2020 ، صص 87 92DOI: 10. 1109/Niles50944. 2020. 9257950.
8. N. Sirimevan ، I. G. U. H. Mamalgaha ، C. Jayasekara ، Y. S. Mayuran و C. Jayawardena ، پیش بینی بازار سهام با استفاده از تکنیک های یادگیری ماشین ، در کنفرانس بین المللی پیشرفت در محاسبات (ICAC) ، IEEE ، جلد. 8 ، 2019 ، صص 192197. doi: 10. 1109/ICAC49085. 2019. 9103381.
9. K. A. Althelaya ، E. M. El-Alfy ، and S. Mohammed ، ارزیابی LSTM دو طرفه برای پیش بینی بازار سهام کوتاه مدت و بلند مدت ، در سال نهمین کنفرانس بین المللی سیستم های اطلاعات و ارتباطات (ICICS) ، 2018 ، صص 151156. DOI:10. 1109/IACS. 2018. 8355458.
10. M. Nikou ، G. Mansourfar و J. Bagherzadeh ، پیش بینی قیمت سهام با استفاده از الگوریتم یادگیری عمیق و مقایسه آن با الگوریتم های یادگیری ماشین ، سیستم های هوشمند در حسابداری ، امور مالی و مدیریت ، جلد. 26 ، نه. 4 ، صص 164174 ، اکتبر 2019 ، doi: 10. 1002/isaf. 1459.
11. S. Sarode ، H. G. Tolani ، P. Kak و L. CS ، پیش بینی قیمت سهام با استفاده از تکنیک های یادگیری ماشین ، در کنفرانس بین المللی سیستم های پایدار هوشمند (ICISS 2019) ، 2019 ، صص 177181. DOI: 10. 1109/ISS1. 2019. 8907958.
12. K. G Greff ، R. K. Srivastava ، J. Koutnik ، B. R. Steunebrink ، and J. Schmidhuber ، LSTM: یک فضای جستجو ادیسه ، معاملات IEEE در شبکه های عصبی و سیستم های یادگیری ، جلد. 28 ، نه. 10 ، صص 2222 2232 ، اکتبر 2017 ، doi: 10. 1109/tls. 2016. 2582924.
13. A. Ghosh ، S. Bose ، G. Maji ، N. C. Debnath ، and S. Sen ، پیش بینی قیمت سهام با استفاده از LSTM در بازار سهم هند ، در سری EPIC در محاسبات ، 2019 ، جلد. 63 ، صص 101110. doi: 10. 29007/qgcz.
14. Y. Wang ، Y. Liu ، M. Wang ، and R. Liu ، بهینه سازی مدل LSTM در پیش بینی قیمت سهام ، در هفدهمین سمپوزیوم بین المللی در مورد محاسبات توزیع شده و برنامه های کاربردی برای مهندسی و علوم تجارت ، DCABES 2018 ، دسامبر 2018 ، صص 173177. doi: 10. 1109/dcabes. 2018. 00052.
15. Y. Bengiot ، P. Frasconit و P. Simardt ، مشکل یادگیری وابستگی های بلند مدت در شبکه های مکرر ، در مقاله دعوت شده در کنفرانس بین المللی IEEE در شبکه های عصبی 1993 ، سانفرانسیسکو ، IEEE Press ، 1993 ، صص 11831188. doi: 10. 1109/ic. 1993. 298725.
16. C. Olah ، درک شبکه های LSTM-وبلاگ Colahs ، 2015. https://colah. github. io/posts/2015-08-randerstanding-lstms/ (دسترسی به 09 سپتامبر 2021).
17. S Hochreiter و J Schmidhuber ، حافظه کوتاه مدت طولانی ، در محاسبات عصبی ، جلد. 9 ، نه. 8 ، 1997 ، صص 17351780. doi: 10. 1162/neco. 1997. 9. 8. 1735.
18. انجمن ارتباطات IEEE و انستیتوی مهندسان برق و الکترونیک ، کنفرانس بین المللی پیشرفت در محاسبات ، ارتباطات و انفورماتیک (ICACCI): 13-16 سپتامبر 2017. 2017 ، صص 16431647. DOI: 10. 1109/ICACCI. 2017. 8126078.

محمد Asiful Hossain ، Rezaul Karim ، Ruppa Thulasiram ، Neil