🤖 Transformers: Maskaxda Cusub ee Barashada Qotada Dheer (Deep Learning)
Transformers waa qaab-dhismeedka ugu awoodda badan ee dhisa AI sida GPT iyo BERT. Waxay adeegsadaan *Attention Mechanism* si ay u fahmaan xiriirka iyo macnaha xogta. Waxay ka kooban yihiin Encoder & Decoder, Self-Attention, iyo Positional Encoding.
Transformers: Maskaxda Cusub ee Barashada Qotada Dheer (Deep Learning)
Transformers waa hal-abuurnimo beddeshay qaabka mashiinnadu u bartaan xogta — gaar ahaan luuqadaha, sawirrada, iyo codadka.
Haddii hore lagu tiirsanaa habab sida RNNs iyo LSTMs, Transformers waxay keeneen nidaam gebi ahaan cusub oo awood u leh inuu fahmo xiriirka iyo macnaha xogta meel kasta oo ay ku jirto.
Waxaa lagu oran karaa:
“Transformers waa halka Garaadka Macmalka ah (AI) uu ku noqday mid fahma macnaha, xiriirka, iyo xogta qotada dheer ee ku dhex jirta macluumaadka.”
Waa Maxay Transformers?
Transformers waa qaab-dhismeed (architecture) ay soo bandhigtay Google sanadkii 2017 maqaal caan ah oo lagu magacaabo “Attention is All You Need”.
Magacaas ayaa tilmaamaya hal-abuurkooda ugu weyn — Attention Mechanism — farsamo u oggolaanaysa model-ku inuu si caqli ah u garto qaybta ugu muhiimsan ee xogta waqtiga saxda ah.
Markii hore, mashiinnada waxay u akhriyi jireen xogta si tartiib ah oo isku xigta (erayba eray ka dib),
laakiin Transformers waxay xogta u akhriyaan si isku mar ah, iyagoo isla markaas fahmaya xiriirka fog iyo kan dhow — sida qof akhrinaya jumlad oo si dhammaystiran u garanaya macnaha guud.
Qaybaha Ugu Muhiimsan ee Transformer-ka
1. Attention (Self-Attention)
Tani waa wadnaha Transformer-ka.
Waxay u suurtagelisaa model-ku inuu go’aamiyo qaybta xogta ee ugu qiimaha badan marka uu wax baranayo.
Tusaale ahaan:
