Friday, 19 April 2019 09:16

වැඩට ගතහොත් රටට හිතකර කෘත්‍රිම බුද්ධිය

ආචාර්ය ලොචන්දක රණතුංග තොරතුරු තාක්ෂණ අධ්‍යයන අංශය මොරටුව විශ්වවිද්‍යාලය

කෘත්‍රිම බුද්ධිය නොඑසේ නම් Artificial Intelligence (AI) පිළිබඳ කතාබහ කරන විට එහි ඉතිහාසය 1950 දශකය දක්වා දිව යන්නකි. නමුත් දැන් ඒ පිළිබඳ නැවත කතාබහ අලුත් වෙමින් පවතී. එසේ ම විවිධ සමාජ ක්ෂේත්‍ර තුළ අලෙවිකරණ පාඨයක් ලෙස සිදුවන භාවිතාව ද සුලභව දැකිය හැකිය. 1940 අග භාගයේ දී ක්‍රමලේඛයක් මඟින් ද්වීමය සංඛ්‍යා ආකෘතියකින්, මතකය ආම්පන්නයක් තුළ ගබඩා කර තැබීමට යෝජනා ඉදිරිපත් කරන ලද්දේ ජෝන් වොන් නියුමාන් විසිනි.

1950 දී ඇලන් ටියුරින්ග් විසින් නිර්මාණය කරන ලද ටියුරින් පරීක්ෂණය (Turing test), මිනිසෙකුගේ සමානත්වයට සමාන වූ බුද්ධිමත් හැසිරීමක් ප්‍රදර්ශනය කිරීමේ යන්ත්‍රයක හැකියාව, න්‍යායාත්මකව ඉදිරිපත් කරන ලදී. කෘත්‍රිම බුද්ධියෙහි විකාශනය ඇලන් ටියුරින් සහ වොන්නියුමාන් ඉදිරිපත් කළ සංකල්ප හා සමගාමීව ඉදිරියට යන්නකි.

කෘත්‍රිම බුද්ධිය භාවිතයේ දී සිදුවන්නේ මිනිසකු හිතාමතා කරන කියන ක්‍රියාකාරකම් යන්ත්‍රානුසාරයෙන් සිදු කිරීම නැතහොත් යාන්ත්‍රීකරණය කිරීමයි. මෙම කෘත්‍රිම බුද්ධිය පිළිබඳ සංකල්පය විවිධ අංශ තුළ කෙමෙන් කෙමෙන් වර්ධනය වෙමින් පැවති අතර, එහි ප්‍රතිඵලයක් ලෙස අද ලෝකයේ කෘත්‍රිම බුද්ධිමය මෙවලම් (Artificial Intelligence Tools) විශාල ප්‍රමාණයක් බිහිවී තිබේ. සාමාන්‍ය සමාජ භාවිතාවක් බවට පත්ව ඇති Artificial Intelligence Tools අද වන විට ජංගම දුරකතන, රථ වාහන, කැමරා, ඔරලෝසු හා නොයෙකුත් එදිනෙදා භාවිත වන ඉලෙක්ට්‍රොනික් උපාංග සඳහා ද බහුලව යොදා ගැනේ.

කෘත්‍රිම බුද්ධියෙන් ප්‍රයෝජන ගත හැක්කේ ඒ හා බැඳී පවතින දත්ත හා ක්‍රම ලේඛන මත ය. දත්ත විද්‍යාව නැතහොත් Data Science අද වන විට විශාල වශයෙන් දියුණුවක් ලබා ඇති ක්ෂේත්‍රයකි. උදාහරණයක් ලෙස Google Map හරහා මාර්ග පිළිබඳ තතු දක්වන්නේ ද ගබඩා කරගත් දත්ත සහ අවස්ථානෝචිත දත්ත අනුව ය. මිනිසකුට යම්කිසි මතකයක් ඇත. එම මතකයේ ප්‍රමාණය එක් එක් පුද්ගලයාට සාපේක්ෂ එකකි. සාමාන්‍ය පුද්ගලයකුට අතිවිශාල දත්ත ප්‍රමාණයක් එකවර මනසේ රඳවාගෙන ගණනය කිරීම හෝ විශ්ලේෂණය කිරීම අසීරු නමුත් යන්ත්‍රයකට ඉතාමත් සුළු කාලයක් තුළ එවැන්නක් කළ හැකි ය. කෘත්‍රිම බුද්ධිය හි භාවිතය සමඟ එම හැකියාව වර්තමානයේ බහුලව යොදා ගැනේ.

ප්‍රේරක

කෘත්‍රිම බුද්ධියේ ප්‍රභේද කිහිපයකි. ඒ අතරින් අද ලෝකයේ වැඩි වශයෙන් උද්දීපනය වී ඇත්තේ “Machine Learning”සංකල්පයයි. Machine Learning හී ද ප්‍රභේද ඇත. Supervise Learning යනු ඉන් එකකි. එහිදී සිදුවන්නේ අප උගන්වන දේ අනුව යම් යම් ලක්ෂණ හඳුනාගමින් නිගමනවලට එළඹීම සඳහා දැනුම සකසා ගැනීමයි. Unsupervise Learning යනුවෙන් තවත් ප්‍රභේදයකි. එහිදී අප විසින් නිශ්චිත ඉගැන්වීමක් සිදු නොකරන අතර මෙවලම අප ලබාදෙන දත්ත අනුව විශ්ලේෂණ හා කැණීම් කිරීම මඟින් දැනුම සකසා ගනී. එසේම Supervise Learning සහ Unsupervise Learning යන ද්විත්වය අතරමැද තත්ත්වයක් ද ඇත. එය හැඳින්වෙන්නේ Semi supervise Learning යනුවෙනි.

අද වනවිට ලෝකයේ වැඩි වශයෙන් ම භාවිත වන application සඳහා ප්‍රේරකයක් වන්නෙ Machine Learning සංකල්පයයි. ඒ අනුව පරිගණකයට හෝ අදාළ මෙවලමට අප බලයක් ලබාදෙන්නේ ඉගෙනගෙන නිශ්චිත නිගමනවලට එළඹීමටයි. මෙහිදී වැදගත් වන්නේ අදාළ දත්ත විශ්ලේෂණය කොට කොතරම් වේගයකින් තීරණයක් ගත හැකිද යන්නයි. විශාල දත්ත ප්‍රමාණයක් මතකයේ රඳවාගෙන පුද්ගලයකු තීරණයකට එළැඹෙනවාට වැඩි වේගයකින් එය සිදු කිරීමට පරිගණකයකට හෝ එවැනි ම කෘත්‍රිම බුද්ධිමය මෙවලමකට පුළුවන. වේගය අත්‍යාවශ්‍ය අංගයක් වන අතර ඒ වෙනුවෙන් ද High Performance Computing (ඉහළ කාර්යසාධක පරිගණනය) තුළින් උපකාරයක් ලැබී ඇත.

දත්ත විද්‍යාව

High Performance Computing උපාංග ද අද ලෝකයේ බහුලව භාවිත වේ. කෘත්‍රීම බුද්ධිමය භාවිතයන් ඉදිරියට ගමන් කරනුයේ Machine Learning සංකල්පය, High Performance Computing සංකල්පය සහ දත්ත විද්‍යාවේ සංකල්පයන්ගේ සංකලනයක් ලෙසිනි. අද වන විට කෘත්‍රිම බුද්ධිය සඳහා දත්ත විද්‍යාව ශක්තිමත් ලෙස සම්බන්ධ වී ඇත. බොහෝ විට අප තීරණ ගනුයේ දැනුම් සම්හාරයේ ඇති දත්තවලට අනුව ය. මෑත උදාහරණ ලෙස පසුගිය දිනවල සිදු වූ විදුලි කප්පාදුව පිළිබඳ ව පෙර සිට ම අනාවැකි ඉදිරිපත් කළ හැකි මට්ටමට කෘත්‍රීම බුද්ධිමය මෙවලම් භාවිත කොට තිබුණා නම් අදාළ තත්ත්වයට සාර්ථකව මුහුණ දීමට හැකිවනු ඇත. අවම වශයෙන් පෙර තත්ත්ව හා දත්ත උපයෝගී කරගනිමින් මින් මාස හය හතකට පමණ පෙර මෙවන් තත්ත්වයක් පිළිබඳ අනාවැකියක් ඉදිරිපත් වී තිබුණි නම් එතැන් පටන් විදුලි කප්පාදුවක් සිදු කරන්නට ඉඩ තිබිණි. එසේ වූයේ නම් දිනකට පැය දෙක-තුනක විදුලි කප්පාදුවක් හේතුවෙන් ජනතාව මෙතරම් අපහසුතාවට පත් නොවනු ඇත. නිවැ‍රැදි දත්ත ගබඩා වී ඇත්නම් ඒවා පද්ධතියකට නිසි අයුරින් ඇතුළු කොට, කෘත්‍රිම බුද්ධිමය මෙවලම් මඟින් තීරණ ගත හැකිය. එසේ ම ඉදිරිය ගැන අනාවැකි ද කිව හැකිය.

Google Map මඟින් මාර්ග තදබදය අනුව එක් ස්ථානයක සිට තවත් ස්ථානයකට යෑමට ගත වන කාලය නිවැරදිව දක්වන්නේ ද දත්තයන් සලකා බැලීමෙන් අනතුරුව ය. අදාළ මාර්ගයේ අද පවතින තත්ත්වය, මින් පෙර වසරවල, මාසවල මේ වැනි දිනවල මෙම වේලාවට ධාවනය වූ වාහන පිළිබඳ තොරුතුරු ඒ අවස්ථාවේ ඇති වටපිටාව හා, එම වාහන අදාළ ස්ථානයට ළඟා වීමට ගෙන ඇති කාලය වැනි බොහෝ දත්ත ඒ සඳහා අදාළ වේ. අවුරුදු කාලයට මාර්ගවල තදබදය වැඩි බව අප දන්නේ අද්දැකීමෙන් ය. එවන් අත්දැකීම් පවා මෙවැනි පද්ධතින් තුළ ගබඩා වේ. මිනිස් මතකයේ රඳවා ගත හැකි යම්කිසි ධාරිතාවක් ඇති නමුත්, කෘත්‍රිම බුද්ධියේ දී එය ඉතා විශාල පරාසයක් දක්වා දිව යයි. එසේ හෙයින් ලෝකයේ සෑම රටක් ම තම කාර්යන් පහසුකර ගැනීම සඳහා මෙවැනි Artificial Intelligence application සඳහා යොමුව ඇත.

අනාවැකි

මෙරට කාලගුණ විද්‍යා දෙපාර්තමේන්තුව සතුව විශාල දත්ත ගබඩාවක් ඇතිමුත් එම දත්ත යොදාගෙන කල්තියා අනාවැකි පළ කළ හැකි මට්ටමකට කෘත්‍රිම බුද්ධිමය මෙවලම් සම්පූර්ණ වශයෙන් භාවිත වන්නේ නැත. නමුත් පර්යේෂණ මට්ටමේ පවතී. ආපදා කළමනාකරණය සම්බන්ධයෙන් වුව ද, ආපදාවක් ඇතිවීමට පෙර කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිතයෙන් කල්තියා නිගමනයකට එළඹිය හැකි නම්, අනාවැකියක් පළකළ හැකි නම්, ආපදා තත්ත්වයන්ට සාර්ථකව මුහුණ දීමට සූදානම් වීමේ ඉඩකඩ වැඩි ය. මන්ද බොහෝ විට සිද්ධීන් සිදු වන්නේ එක්තරා රටාවන්වලට අනුව ය. කෘත්‍රිම බුද්ධියෙන් බහුල වශයෙන් සිදු කෙරෙන්නේ දත්ත විද්‍යාවේ ඇති රටා හඳුනාගැනීමයි. මෙහිදී අප සිදු කරනුයේ දත්ත රටාවන් ලබා දී, සිතීම තුළින් නිගමයන්ට එළඹීම යාන්ත්‍රික කිරීමකි. මෙකී ක්‍රියාවලීන් පවතින්නේ රටාවන් සහ ඒවා අතර ඇති සහසම්බන්ධයන් හඳුනාගැනීමෙනි.

කාලගුණය සම්බන්ධයෙන් බොහෝ තැන්වලදී අපට Machine Learning භාවිත කළ හැකි ය. කාලගුණ විද්‍යා දෙපාර්තමේන්තුව ලංකාව පුරාම ඇති දත්ත ලබාගනී. ඉදිරියේ දී ඇතිවිය හැකි තත්ත්ව නිගමනය කිරීමට එම දත්ත බොහෝ දුරට භාවිත කළ හැකි ය. පසුගිය දිනවල සිදුවූ විදුලි කප්පාදුව වුව ද එක් එක් පුද්ගලයාට බලපාන්නේ එක් එක් ආකාරයෙන් ය. කර්මාන්ත හිමියකුට බලපාන්නේ සාමාන්‍ය පුද්ගලයකුට බලාපාන අන්දමෙන් නොවේ. විදුලිය වැඩිපුර ලබාදිය යුතු ප්‍රදේශ සහ එක් එක් ප්‍රදේශවලට විදුලිය කප්පාදු කළ යුතු වේලාවන්, එක්රැස් කරගත් දත්ත අනුව සාර්ථක විශ්ලේෂණයන් තුළින් සිදුවන අපහසුතාව බොහෝ දුරට අවම කරගැනීමට ඉඩ තිබුණි. එවැනි නිගමනවලට එළැඹීමට අපට පරිභෝජන දත්ත සාර්ථක පද්ධති විශ්ලේෂණයන් හරහා ලැබී නැත. නමුත් ඒ අදාළ දත්ත ඉතා ලේසියෙන් ලබාගත හැකි අතර, කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිතයෙන් නිවැ‍රැදිව අදාළ තත්ත්වය අඩු හානි සමඟ කළමනාකරණය කරගැනීමට ඉඩ තිබිණි.

Machine Learning Tools අද බහුලව භාවිත වන නමුත් වඩා වැගදත් වන්නේ එය නව නිපයුමක් වෙනුවෙන් යොදාගත හැකි වන්නේ කෙලෙසද යන්නයි. මෙම තාක්ෂණය රටේ එක් එක් අංශයන්ගේ දියුණුවට යොදාගත හැක්කේ කෙලෙසද? හා එහි ප්‍රතිලාභ මොනවාද? යන්න සලකා බැලිය යුතු ය. ඒ පිළිබඳ රට තුළ කතිකාවක් ඇති විය යුතු ය. යම් යම් හඳුනාගත් අංශයන්ගේ දියුණුව වෙනුවෙන් කෘත්‍රිම බුද්ධිය භාවිත කළ හැකිද? භාවිත කිරීම අවශ්‍යද? භාවිත කොට දැනට වැඩිය දියුණුවක් ඇති කළ හැකිද යන්න සලකා බැලිය යුතුය. මේ සඳහා නොමිලේ භාවිත කළ හැකි මෘදුකාංග මෙවලම් විශාල වශයෙන් ඇත. විය යුත්තේ යම් යම් ක්ෂේත්‍රයන්ගේ නියුක්ත වන්නන් තුළ මේ පිළිබඳ අවබෝධයක් හා භාවිතාව විශ්ලේෂණය කරගැනීමක් ය.

පුද්ගලයකු සිදු කරන කර්තව්‍යයක් යාන්ත්‍රීකරණය කළ විට අදාළ පුද්ගලයාගේ සේවය අනවශ්‍ය එකක් විය හැකිය. එසේ හෙයින් ඇතැමකුගේ මතය වන්නේ කෘත්‍රිම බුද්ධිය භාවිතය තුළින් පුද්ගලයන් සඳහා වන රැකියා අවස්ථා හිඟ වන බවයි. නමුත් ඒ හා සමඟම නිර්මාණාත්මක ක්‍රියාකාරීත්වයන් රට තුළ ඇති වීමෙන් නව රැකියා අවස්ථා බිහිවීම ද සිදු විය හැක. නවෝත්පාදන සහ නව ව්‍යාපාර මෙම තාක්ෂණයත් සමඟ බිහිවීමේ ඉඩකඩ ඇත. උදාහරණයක් ලෙස අතීතයේ data scientist යනුවෙන් රැකියා අවස්ථාවක් ප්‍රචලිත නොවු නමුත් අද එය බහුලව දැකිය හැකිය. දත්ත විද්‍යාවට අනුගතව කටයුතු කරන සෑම ආයතනයක ම ඉදිරියේදි එවැනි රැකියා අවස්ථා බිහිවීමේ ඉඩ ඇත.

රොබෝ හමුදා

Strong AI නැතහොත් කෘත්‍රිම බුද්ධියේ දියුණුම තත්ත්වය වන්නේ මිනිසකු සේ ම ක්‍රියාත්මක වීම යන්නයි. එය Artificial General Intelligence (AGI) යනුවෙන් හැඳින්වේ. එතුළින් මිනිසකුගේ ක්‍රියාකාරීත්වයත් නිරූපණයත් දැකගත හැකිය. මිනිසකුගේ සිතුම්පැතුම්, සිනාව, ඇඬීම වැනි සියල්ල තාත්ත්වික ම ක්‍රියාත්මක වේ. කෘත්‍රීම බුද්ධියේ දී යන්ත්‍රයක් මඟින් යමක් කිරීමට අවශ්‍ය ක්‍රමවේදය සහ අවශ්‍ය සැකසුම ආදී සියල්ල නිර්මාණය කරන්නේ මිනිසකු විසිනි. එහිදී යන්ත්‍රය අනුකරණය කරනුයේ අදාළ පුද්ගලයා ය. එය ඇතැම් විට දරුවකු, වැඩිහිටියකු අනුකරණය කිරීමකට සමාන ය. අනුකරණයක් සිදුවනවා විනා එහිදී අදාළ ක්‍රියාවේ හොඳ නරක හෝ සදාචාර සම්පන්න බව සලකා බැලීමේ හැකියාවක් යන්ත්‍රයට අද තත්ත්වය තුළ නැත. කෘත්‍රිම බුද්ධියේ දී අදාළ ක්‍රමෝපායන් සියල්ලට ම හේතු වන්නේ මිනිසෙකි. අදාළ තැනැත්තාට අනුව කෘත්‍රිම බුද්ධියේ දියුණුව, හොඳට හෝ නරකට යොදාගත හැකි බව සිහි තබා ගත යුතු ය.

ඇතැම් රටවල මේ වන විට කෘත්‍රිම බුද්ධිය භාවිතයෙන් රෝගීන් රැක බලා ගැනීමට රොබෝවරු යොදවයි. එසේ ම අවැසි නම් සොරකමට වුව ද යෙදවිය හැකි ය. දැනට ද කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිතයෙන් Hacking වැනි දේ සිදු වේ. කෘත්‍රිම බුද්ධිමය මෙවලම් රටක සංවර්ධනයට යොදාගත හැකි වග සැබෑ ය. නමුදු එහි දී ප්‍රවේශම් විය යුතු තැන් බොහෝමයකි. සරලව කිවතොත් කෘත්‍රිම බුද්ධිමය මෙවලම් පිහියකට සමාන ය. අවැසි නම් පිසීමට වුවමනා එළවළු මාළු කපාගත හැකිය. නොඑසේ නම් මිනිසකු මරා දැමීම වුව කළ හැකිය. එය තීරණය වන්නේ භාවිත කරන පුද්ගලයා මත ය.

කෘත්‍රිම බුද්ධිය භාවිතයේ දී පද්ධතිය තුළ සිදු වන යම්කිසි වරදකින් අහිතර ප්‍රතිඵලයන් උද්ගත විය හැකි බව ද සිහි තබාගත යුතු ය. කෘත්‍රිම බුද්ධිය භාවිතයෙන් රොබෝ හමුදාවක් නිර්මාණය කිරීමට වුවද පුළුවන. අවි ආයුධ නිර්මාණයෙන්, යුද්ධයට ද රුකුලක් වීමේ හැකියාව ද තිබේ. එසේ හෙයින් කෘත්‍රිම බුද්ධිය සමඟ ඉදිරියට යා යුත්තේ නිසි නියාමනයක් ඇතිව පරිස්සමිනි. පිහිය රත්තරන් වූ පලියට ඇනගත යුතු නැත.

අප රට තුළ කෘත්‍රිම බුද්ධිමය මෙවලම් රජයේ ආයතනවල භාවිත වන්නේ මඳ වශයෙනි. දත්ත පවතින්නේ ද විසිරී ය. නිසි ආකාර දත්ත කළමනාකරණයක් සිදුව නැත. රජයේ රෝහල්වල ප්‍රතිකාර ලබන රෝගීන් පිළිබඳ ක්‍රමානුකූල දත්ත ගබඩාවක්ද අපට නැත. ඒ සඳහා ප්‍රතිපාදන සැකැසෙමින් පවතින්නේ ද දැන් දැන් ය. කෘත්‍රිම බුද්ධි භාවිතයෙන් රට දියුණුව කරා ගෙන යෑමට නම් අත්‍යවශ්‍ය දත්ත කළමනාකරණය විය යුතු ය. යම් යම් ආයතනවල දත්ත පැවතිය ද ඒ පවතින්නේ ලිඛිතව ය. ඒ සියල්ල පරිගණකගත කිරීමෙන්, පද්ධතියකට අනුගත ව කෘත්‍රීම බුද්ධිමය භාවිතයන් වෙත ළඟා වීමට විශාල කාලයක් හා ශ්‍රමයක් වැය වනු ඇත.

මානව නිර්මාණශීලීත්වය

කෘත්‍රිම බුද්ධිය හි භාවිතය විවිධ ක්ෂේත්‍ර තුළ රෝපණය කිරීමට හැකියාව තිබේ. අවැසි නම් වගාවකට අවශ්‍ය දේ ගබඩා කොට තබා, ස්වයංක්‍රීව යෙදිය හැකිය. එහිදී පුද්ගලයකු විසින් සිදු කළ යමක් යාන්ත්‍රීකරණයක් සිදු වන අතර ඔහුගේ රැකියාවට තර්ජනයක් ඇති වන බව ද සැබෑවකි. නමුත් ඔහුට ම වුව වෙනත් ආකාරයකින් මෙම නිෂ්පාදන කාර්යය සඳහා දායක විය හැකිය. මන්ද නව තාක්ෂණය භාවිතයෙන් නිෂ්පාදන ධාරිතාව වැඩි වන විට එහිම වෙනත් අංශ තුළ නව රැකියා අවස්ථාවන් ද ඇති වේ. ලංකාවේ පෞද්ගලික අංශයේ යම් යම් ආයතනවල කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිත වන නමුත් එය ද දියුණු වෙමින් ඉදිරියට යන්නේ මන්දගාමීව ය.

කෘත්‍රිම බුද්ධිය මෙතැනින් ඉදිරියට යා යුත්තේ කොතැනටද යන්න පිළිබඳ සලකා බැලුවහොත්, මිනිසකුට වසර ගණනාවක අද්දැකීම් සමඟ විශාල දැනුමක් පද්ධතියකට ඇතුළු කිරීමට පුළුවන. එවිට එම අද්දැකීම් හා දත්ත මත අදාළ මෙවලම තීරණ ගනු ඇත. එසේ ම මිනිසකු හැසිරෙන ආකාරයට ම හැසිරෙන්නේ කෙලෙසද? උදාහරණයක් ලෙස ආතර් සී. ක්ලාක් නිර්මාණශීලීව ඉදිරිය දුටු අයෙකි. ඒ වන විට කිසිවකු නොදුටු නොසිතු දේ පිළිබඳ ඔහු අනාවැකි පළ කළේ ය. අද වන විට කෘත්‍රිම බුද්ධි හා බද්ධව මානව නිර්මාණශීලීත්වය සම්බන්ධයෙන් විශාල වශයෙන් පර්යේෂණ පවත්වාගෙන යයි. කෘත්‍රිම බුද්ධියෙන් නිර්මාණාත්මකව සිතුවමක් තුළින් අදහස් ප්‍රකාශනයක් සිදු කරන්නේ කෙලෙසද? ගොඩනඟාගත් අලුත් සිතුවිලි තුළින් නව නිර්මාණ ඇති කිරීමට කෘත්‍රිම බුද්ධිය භාවිත කරන්නේ කෙලෙසද? නිර්මාණාත්මක හැකියාව කෘත්‍රිම බුද්ධිය තුළ ඇති කරන්නේ කෙලෙසද යන්න පිළිබඳ මේ වන විට රට රටවලද විශ්වවිද්‍යාල තුළ ද පර්යේෂණ පැවැත්වේ. කෙසේ වෙතත් මේ කියන්නා වූ කෘත්‍රීම බුද්ධිය නිර්මාණාත්මකවත්, සදාචාර සම්පන්නවත්, ලෝකයට වැඩදායී ලෙසත් භාවිත කිරීම පිළිබඳ නිවැරැදි ම තීරණ ගත යුත්තේ මිනිසා විසිනි.

ආචාර්ය ලොචන්දක රණතුංග තොරතුරු තාක්ෂණ අධ්‍යයන අංශය මොරටුව විශ්වවිද්‍යාලය

කෘත්‍රිම බුද්ධිය නොඑසේ නම් Artificial Intelligence (AI) පිළිබඳ කතාබහ කරන විට එහි ඉතිහාසය 1950 දශකය දක්වා දිව යන්නකි. නමුත් දැන් ඒ පිළිබඳ නැවත කතාබහ අලුත් වෙමින් පවතී. එසේ ම විවිධ සමාජ ක්ෂේත්‍ර තුළ අලෙවිකරණ පාඨයක් ලෙස සිදුවන භාවිතාව ද සුලභව දැකිය හැකිය. 1940 අග භාගයේ දී ක්‍රමලේඛයක් මඟින් ද්වීමය සංඛ්‍යා ආකෘතියකින්, මතකය ආම්පන්නයක් තුළ ගබඩා කර තැබීමට යෝජනා ඉදිරිපත් කරන ලද්දේ ජෝන් වොන් නියුමාන් විසිනි.

1950 දී ඇලන් ටියුරින්ග් විසින් නිර්මාණය කරන ලද ටියුරින් පරීක්ෂණය (Turing test), මිනිසෙකුගේ සමානත්වයට සමාන වූ බුද්ධිමත් හැසිරීමක් ප්‍රදර්ශනය කිරීමේ යන්ත්‍රයක හැකියාව, න්‍යායාත්මකව ඉදිරිපත් කරන ලදී. කෘත්‍රිම බුද්ධියෙහි විකාශනය ඇලන් ටියුරින් සහ වොන්නියුමාන් ඉදිරිපත් කළ සංකල්ප හා සමගාමීව ඉදිරියට යන්නකි.

කෘත්‍රිම බුද්ධිය භාවිතයේ දී සිදුවන්නේ මිනිසකු හිතාමතා කරන කියන ක්‍රියාකාරකම් යන්ත්‍රානුසාරයෙන් සිදු කිරීම නැතහොත් යාන්ත්‍රීකරණය කිරීමයි. මෙම කෘත්‍රිම බුද්ධිය පිළිබඳ සංකල්පය විවිධ අංශ තුළ කෙමෙන් කෙමෙන් වර්ධනය වෙමින් පැවති අතර, එහි ප්‍රතිඵලයක් ලෙස අද ලෝකයේ කෘත්‍රිම බුද්ධිමය මෙවලම් (Artificial Intelligence Tools) විශාල ප්‍රමාණයක් බිහිවී තිබේ. සාමාන්‍ය සමාජ භාවිතාවක් බවට පත්ව ඇති Artificial Intelligence Tools අද වන විට ජංගම දුරකතන, රථ වාහන, කැමරා, ඔරලෝසු හා නොයෙකුත් එදිනෙදා භාවිත වන ඉලෙක්ට්‍රොනික් උපාංග සඳහා ද බහුලව යොදා ගැනේ.

කෘත්‍රිම බුද්ධියෙන් ප්‍රයෝජන ගත හැක්කේ ඒ හා බැඳී පවතින දත්ත හා ක්‍රම ලේඛන මත ය. දත්ත විද්‍යාව නැතහොත් Data Science අද වන විට විශාල වශයෙන් දියුණුවක් ලබා ඇති ක්ෂේත්‍රයකි. උදාහරණයක් ලෙස Google Map හරහා මාර්ග පිළිබඳ තතු දක්වන්නේ ද ගබඩා කරගත් දත්ත සහ අවස්ථානෝචිත දත්ත අනුව ය. මිනිසකුට යම්කිසි මතකයක් ඇත. එම මතකයේ ප්‍රමාණය එක් එක් පුද්ගලයාට සාපේක්ෂ එකකි. සාමාන්‍ය පුද්ගලයකුට අතිවිශාල දත්ත ප්‍රමාණයක් එකවර මනසේ රඳවාගෙන ගණනය කිරීම හෝ විශ්ලේෂණය කිරීම අසීරු නමුත් යන්ත්‍රයකට ඉතාමත් සුළු කාලයක් තුළ එවැන්නක් කළ හැකි ය. කෘත්‍රිම බුද්ධිය හි භාවිතය සමඟ එම හැකියාව වර්තමානයේ බහුලව යොදා ගැනේ.

ප්‍රේරක

කෘත්‍රිම බුද්ධියේ ප්‍රභේද කිහිපයකි. ඒ අතරින් අද ලෝකයේ වැඩි වශයෙන් උද්දීපනය වී ඇත්තේ “Machine Learning”සංකල්පයයි. Machine Learning හී ද ප්‍රභේද ඇත. Supervise Learning යනු ඉන් එකකි. එහිදී සිදුවන්නේ අප උගන්වන දේ අනුව යම් යම් ලක්ෂණ හඳුනාගමින් නිගමනවලට එළඹීම සඳහා දැනුම සකසා ගැනීමයි. Unsupervise Learning යනුවෙන් තවත් ප්‍රභේදයකි. එහිදී අප විසින් නිශ්චිත ඉගැන්වීමක් සිදු නොකරන අතර මෙවලම අප ලබාදෙන දත්ත අනුව විශ්ලේෂණ හා කැණීම් කිරීම මඟින් දැනුම සකසා ගනී. එසේම Supervise Learning සහ Unsupervise Learning යන ද්විත්වය අතරමැද තත්ත්වයක් ද ඇත. එය හැඳින්වෙන්නේ Semi supervise Learning යනුවෙනි.

අද වනවිට ලෝකයේ වැඩි වශයෙන් ම භාවිත වන application සඳහා ප්‍රේරකයක් වන්නෙ Machine Learning සංකල්පයයි. ඒ අනුව පරිගණකයට හෝ අදාළ මෙවලමට අප බලයක් ලබාදෙන්නේ ඉගෙනගෙන නිශ්චිත නිගමනවලට එළඹීමටයි. මෙහිදී වැදගත් වන්නේ අදාළ දත්ත විශ්ලේෂණය කොට කොතරම් වේගයකින් තීරණයක් ගත හැකිද යන්නයි. විශාල දත්ත ප්‍රමාණයක් මතකයේ රඳවාගෙන පුද්ගලයකු තීරණයකට එළැඹෙනවාට වැඩි වේගයකින් එය සිදු කිරීමට පරිගණකයකට හෝ එවැනි ම කෘත්‍රිම බුද්ධිමය මෙවලමකට පුළුවන. වේගය අත්‍යාවශ්‍ය අංගයක් වන අතර ඒ වෙනුවෙන් ද High Performance Computing (ඉහළ කාර්යසාධක පරිගණනය) තුළින් උපකාරයක් ලැබී ඇත.

දත්ත විද්‍යාව

High Performance Computing උපාංග ද අද ලෝකයේ බහුලව භාවිත වේ. කෘත්‍රීම බුද්ධිමය භාවිතයන් ඉදිරියට ගමන් කරනුයේ Machine Learning සංකල්පය, High Performance Computing සංකල්පය සහ දත්ත විද්‍යාවේ සංකල්පයන්ගේ සංකලනයක් ලෙසිනි. අද වන විට කෘත්‍රිම බුද්ධිය සඳහා දත්ත විද්‍යාව ශක්තිමත් ලෙස සම්බන්ධ වී ඇත. බොහෝ විට අප තීරණ ගනුයේ දැනුම් සම්හාරයේ ඇති දත්තවලට අනුව ය. මෑත උදාහරණ ලෙස පසුගිය දිනවල සිදු වූ විදුලි කප්පාදුව පිළිබඳ ව පෙර සිට ම අනාවැකි ඉදිරිපත් කළ හැකි මට්ටමට කෘත්‍රීම බුද්ධිමය මෙවලම් භාවිත කොට තිබුණා නම් අදාළ තත්ත්වයට සාර්ථකව මුහුණ දීමට හැකිවනු ඇත. අවම වශයෙන් පෙර තත්ත්ව හා දත්ත උපයෝගී කරගනිමින් මින් මාස හය හතකට පමණ පෙර මෙවන් තත්ත්වයක් පිළිබඳ අනාවැකියක් ඉදිරිපත් වී තිබුණි නම් එතැන් පටන් විදුලි කප්පාදුවක් සිදු කරන්නට ඉඩ තිබිණි. එසේ වූයේ නම් දිනකට පැය දෙක-තුනක විදුලි කප්පාදුවක් හේතුවෙන් ජනතාව මෙතරම් අපහසුතාවට පත් නොවනු ඇත. නිවැ‍රැදි දත්ත ගබඩා වී ඇත්නම් ඒවා පද්ධතියකට නිසි අයුරින් ඇතුළු කොට, කෘත්‍රිම බුද්ධිමය මෙවලම් මඟින් තීරණ ගත හැකිය. එසේ ම ඉදිරිය ගැන අනාවැකි ද කිව හැකිය.

Google Map මඟින් මාර්ග තදබදය අනුව එක් ස්ථානයක සිට තවත් ස්ථානයකට යෑමට ගත වන කාලය නිවැරදිව දක්වන්නේ ද දත්තයන් සලකා බැලීමෙන් අනතුරුව ය. අදාළ මාර්ගයේ අද පවතින තත්ත්වය, මින් පෙර වසරවල, මාසවල මේ වැනි දිනවල මෙම වේලාවට ධාවනය වූ වාහන පිළිබඳ තොරුතුරු ඒ අවස්ථාවේ ඇති වටපිටාව හා, එම වාහන අදාළ ස්ථානයට ළඟා වීමට ගෙන ඇති කාලය වැනි බොහෝ දත්ත ඒ සඳහා අදාළ වේ. අවුරුදු කාලයට මාර්ගවල තදබදය වැඩි බව අප දන්නේ අද්දැකීමෙන් ය. එවන් අත්දැකීම් පවා මෙවැනි පද්ධතින් තුළ ගබඩා වේ. මිනිස් මතකයේ රඳවා ගත හැකි යම්කිසි ධාරිතාවක් ඇති නමුත්, කෘත්‍රිම බුද්ධියේ දී එය ඉතා විශාල පරාසයක් දක්වා දිව යයි. එසේ හෙයින් ලෝකයේ සෑම රටක් ම තම කාර්යන් පහසුකර ගැනීම සඳහා මෙවැනි Artificial Intelligence application සඳහා යොමුව ඇත.

අනාවැකි

මෙරට කාලගුණ විද්‍යා දෙපාර්තමේන්තුව සතුව විශාල දත්ත ගබඩාවක් ඇතිමුත් එම දත්ත යොදාගෙන කල්තියා අනාවැකි පළ කළ හැකි මට්ටමකට කෘත්‍රිම බුද්ධිමය මෙවලම් සම්පූර්ණ වශයෙන් භාවිත වන්නේ නැත. නමුත් පර්යේෂණ මට්ටමේ පවතී. ආපදා කළමනාකරණය සම්බන්ධයෙන් වුව ද, ආපදාවක් ඇතිවීමට පෙර කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිතයෙන් කල්තියා නිගමනයකට එළඹිය හැකි නම්, අනාවැකියක් පළකළ හැකි නම්, ආපදා තත්ත්වයන්ට සාර්ථකව මුහුණ දීමට සූදානම් වීමේ ඉඩකඩ වැඩි ය. මන්ද බොහෝ විට සිද්ධීන් සිදු වන්නේ එක්තරා රටාවන්වලට අනුව ය. කෘත්‍රිම බුද්ධියෙන් බහුල වශයෙන් සිදු කෙරෙන්නේ දත්ත විද්‍යාවේ ඇති රටා හඳුනාගැනීමයි. මෙහිදී අප සිදු කරනුයේ දත්ත රටාවන් ලබා දී, සිතීම තුළින් නිගමයන්ට එළඹීම යාන්ත්‍රික කිරීමකි. මෙකී ක්‍රියාවලීන් පවතින්නේ රටාවන් සහ ඒවා අතර ඇති සහසම්බන්ධයන් හඳුනාගැනීමෙනි.

කාලගුණය සම්බන්ධයෙන් බොහෝ තැන්වලදී අපට Machine Learning භාවිත කළ හැකි ය. කාලගුණ විද්‍යා දෙපාර්තමේන්තුව ලංකාව පුරාම ඇති දත්ත ලබාගනී. ඉදිරියේ දී ඇතිවිය හැකි තත්ත්ව නිගමනය කිරීමට එම දත්ත බොහෝ දුරට භාවිත කළ හැකි ය. පසුගිය දිනවල සිදුවූ විදුලි කප්පාදුව වුව ද එක් එක් පුද්ගලයාට බලපාන්නේ එක් එක් ආකාරයෙන් ය. කර්මාන්ත හිමියකුට බලපාන්නේ සාමාන්‍ය පුද්ගලයකුට බලාපාන අන්දමෙන් නොවේ. විදුලිය වැඩිපුර ලබාදිය යුතු ප්‍රදේශ සහ එක් එක් ප්‍රදේශවලට විදුලිය කප්පාදු කළ යුතු වේලාවන්, එක්රැස් කරගත් දත්ත අනුව සාර්ථක විශ්ලේෂණයන් තුළින් සිදුවන අපහසුතාව බොහෝ දුරට අවම කරගැනීමට ඉඩ තිබුණි. එවැනි නිගමනවලට එළැඹීමට අපට පරිභෝජන දත්ත සාර්ථක පද්ධති විශ්ලේෂණයන් හරහා ලැබී නැත. නමුත් ඒ අදාළ දත්ත ඉතා ලේසියෙන් ලබාගත හැකි අතර, කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිතයෙන් නිවැ‍රැදිව අදාළ තත්ත්වය අඩු හානි සමඟ කළමනාකරණය කරගැනීමට ඉඩ තිබිණි.

Machine Learning Tools අද බහුලව භාවිත වන නමුත් වඩා වැගදත් වන්නේ එය නව නිපයුමක් වෙනුවෙන් යොදාගත හැකි වන්නේ කෙලෙසද යන්නයි. මෙම තාක්ෂණය රටේ එක් එක් අංශයන්ගේ දියුණුවට යොදාගත හැක්කේ කෙලෙසද? හා එහි ප්‍රතිලාභ මොනවාද? යන්න සලකා බැලිය යුතු ය. ඒ පිළිබඳ රට තුළ කතිකාවක් ඇති විය යුතු ය. යම් යම් හඳුනාගත් අංශයන්ගේ දියුණුව වෙනුවෙන් කෘත්‍රිම බුද්ධිය භාවිත කළ හැකිද? භාවිත කිරීම අවශ්‍යද? භාවිත කොට දැනට වැඩිය දියුණුවක් ඇති කළ හැකිද යන්න සලකා බැලිය යුතුය. මේ සඳහා නොමිලේ භාවිත කළ හැකි මෘදුකාංග මෙවලම් විශාල වශයෙන් ඇත. විය යුත්තේ යම් යම් ක්ෂේත්‍රයන්ගේ නියුක්ත වන්නන් තුළ මේ පිළිබඳ අවබෝධයක් හා භාවිතාව විශ්ලේෂණය කරගැනීමක් ය.

පුද්ගලයකු සිදු කරන කර්තව්‍යයක් යාන්ත්‍රීකරණය කළ විට අදාළ පුද්ගලයාගේ සේවය අනවශ්‍ය එකක් විය හැකිය. එසේ හෙයින් ඇතැමකුගේ මතය වන්නේ කෘත්‍රිම බුද්ධිය භාවිතය තුළින් පුද්ගලයන් සඳහා වන රැකියා අවස්ථා හිඟ වන බවයි. නමුත් ඒ හා සමඟම නිර්මාණාත්මක ක්‍රියාකාරීත්වයන් රට තුළ ඇති වීමෙන් නව රැකියා අවස්ථා බිහිවීම ද සිදු විය හැක. නවෝත්පාදන සහ නව ව්‍යාපාර මෙම තාක්ෂණයත් සමඟ බිහිවීමේ ඉඩකඩ ඇත. උදාහරණයක් ලෙස අතීතයේ data scientist යනුවෙන් රැකියා අවස්ථාවක් ප්‍රචලිත නොවු නමුත් අද එය බහුලව දැකිය හැකිය. දත්ත විද්‍යාවට අනුගතව කටයුතු කරන සෑම ආයතනයක ම ඉදිරියේදි එවැනි රැකියා අවස්ථා බිහිවීමේ ඉඩ ඇත.

රොබෝ හමුදා

Strong AI නැතහොත් කෘත්‍රිම බුද්ධියේ දියුණුම තත්ත්වය වන්නේ මිනිසකු සේ ම ක්‍රියාත්මක වීම යන්නයි. එය Artificial General Intelligence (AGI) යනුවෙන් හැඳින්වේ. එතුළින් මිනිසකුගේ ක්‍රියාකාරීත්වයත් නිරූපණයත් දැකගත හැකිය. මිනිසකුගේ සිතුම්පැතුම්, සිනාව, ඇඬීම වැනි සියල්ල තාත්ත්වික ම ක්‍රියාත්මක වේ. කෘත්‍රීම බුද්ධියේ දී යන්ත්‍රයක් මඟින් යමක් කිරීමට අවශ්‍ය ක්‍රමවේදය සහ අවශ්‍ය සැකසුම ආදී සියල්ල නිර්මාණය කරන්නේ මිනිසකු විසිනි. එහිදී යන්ත්‍රය අනුකරණය කරනුයේ අදාළ පුද්ගලයා ය. එය ඇතැම් විට දරුවකු, වැඩිහිටියකු අනුකරණය කිරීමකට සමාන ය. අනුකරණයක් සිදුවනවා විනා එහිදී අදාළ ක්‍රියාවේ හොඳ නරක හෝ සදාචාර සම්පන්න බව සලකා බැලීමේ හැකියාවක් යන්ත්‍රයට අද තත්ත්වය තුළ නැත. කෘත්‍රිම බුද්ධියේ දී අදාළ ක්‍රමෝපායන් සියල්ලට ම හේතු වන්නේ මිනිසෙකි. අදාළ තැනැත්තාට අනුව කෘත්‍රිම බුද්ධියේ දියුණුව, හොඳට හෝ නරකට යොදාගත හැකි බව සිහි තබා ගත යුතු ය.

ඇතැම් රටවල මේ වන විට කෘත්‍රිම බුද්ධිය භාවිතයෙන් රෝගීන් රැක බලා ගැනීමට රොබෝවරු යොදවයි. එසේ ම අවැසි නම් සොරකමට වුව ද යෙදවිය හැකි ය. දැනට ද කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිතයෙන් Hacking වැනි දේ සිදු වේ. කෘත්‍රිම බුද්ධිමය මෙවලම් රටක සංවර්ධනයට යොදාගත හැකි වග සැබෑ ය. නමුදු එහි දී ප්‍රවේශම් විය යුතු තැන් බොහෝමයකි. සරලව කිවතොත් කෘත්‍රිම බුද්ධිමය මෙවලම් පිහියකට සමාන ය. අවැසි නම් පිසීමට වුවමනා එළවළු මාළු කපාගත හැකිය. නොඑසේ නම් මිනිසකු මරා දැමීම වුව කළ හැකිය. එය තීරණය වන්නේ භාවිත කරන පුද්ගලයා මත ය.

කෘත්‍රිම බුද්ධිය භාවිතයේ දී පද්ධතිය තුළ සිදු වන යම්කිසි වරදකින් අහිතර ප්‍රතිඵලයන් උද්ගත විය හැකි බව ද සිහි තබාගත යුතු ය. කෘත්‍රිම බුද්ධිය භාවිතයෙන් රොබෝ හමුදාවක් නිර්මාණය කිරීමට වුවද පුළුවන. අවි ආයුධ නිර්මාණයෙන්, යුද්ධයට ද රුකුලක් වීමේ හැකියාව ද තිබේ. එසේ හෙයින් කෘත්‍රිම බුද්ධිය සමඟ ඉදිරියට යා යුත්තේ නිසි නියාමනයක් ඇතිව පරිස්සමිනි. පිහිය රත්තරන් වූ පලියට ඇනගත යුතු නැත.

අප රට තුළ කෘත්‍රිම බුද්ධිමය මෙවලම් රජයේ ආයතනවල භාවිත වන්නේ මඳ වශයෙනි. දත්ත පවතින්නේ ද විසිරී ය. නිසි ආකාර දත්ත කළමනාකරණයක් සිදුව නැත. රජයේ රෝහල්වල ප්‍රතිකාර ලබන රෝගීන් පිළිබඳ ක්‍රමානුකූල දත්ත ගබඩාවක්ද අපට නැත. ඒ සඳහා ප්‍රතිපාදන සැකැසෙමින් පවතින්නේ ද දැන් දැන් ය. කෘත්‍රිම බුද්ධි භාවිතයෙන් රට දියුණුව කරා ගෙන යෑමට නම් අත්‍යවශ්‍ය දත්ත කළමනාකරණය විය යුතු ය. යම් යම් ආයතනවල දත්ත පැවතිය ද ඒ පවතින්නේ ලිඛිතව ය. ඒ සියල්ල පරිගණකගත කිරීමෙන්, පද්ධතියකට අනුගත ව කෘත්‍රීම බුද්ධිමය භාවිතයන් වෙත ළඟා වීමට විශාල කාලයක් හා ශ්‍රමයක් වැය වනු ඇත.

මානව නිර්මාණශීලීත්වය

කෘත්‍රිම බුද්ධිය හි භාවිතය විවිධ ක්ෂේත්‍ර තුළ රෝපණය කිරීමට හැකියාව තිබේ. අවැසි නම් වගාවකට අවශ්‍ය දේ ගබඩා කොට තබා, ස්වයංක්‍රීව යෙදිය හැකිය. එහිදී පුද්ගලයකු විසින් සිදු කළ යමක් යාන්ත්‍රීකරණයක් සිදු වන අතර ඔහුගේ රැකියාවට තර්ජනයක් ඇති වන බව ද සැබෑවකි. නමුත් ඔහුට ම වුව වෙනත් ආකාරයකින් මෙම නිෂ්පාදන කාර්යය සඳහා දායක විය හැකිය. මන්ද නව තාක්ෂණය භාවිතයෙන් නිෂ්පාදන ධාරිතාව වැඩි වන විට එහිම වෙනත් අංශ තුළ නව රැකියා අවස්ථාවන් ද ඇති වේ. ලංකාවේ පෞද්ගලික අංශයේ යම් යම් ආයතනවල කෘත්‍රිම බුද්ධිමය මෙවලම් භාවිත වන නමුත් එය ද දියුණු වෙමින් ඉදිරියට යන්නේ මන්දගාමීව ය.

කෘත්‍රිම බුද්ධිය මෙතැනින් ඉදිරියට යා යුත්තේ කොතැනටද යන්න පිළිබඳ සලකා බැලුවහොත්, මිනිසකුට වසර ගණනාවක අද්දැකීම් සමඟ විශාල දැනුමක් පද්ධතියකට ඇතුළු කිරීමට පුළුවන. එවිට එම අද්දැකීම් හා දත්ත මත අදාළ මෙවලම තීරණ ගනු ඇත. එසේ ම මිනිසකු හැසිරෙන ආකාරයට ම හැසිරෙන්නේ කෙලෙසද? උදාහරණයක් ලෙස ආතර් සී. ක්ලාක් නිර්මාණශීලීව ඉදිරිය දුටු අයෙකි. ඒ වන විට කිසිවකු නොදුටු නොසිතු දේ පිළිබඳ ඔහු අනාවැකි පළ කළේ ය. අද වන විට කෘත්‍රිම බුද්ධි හා බද්ධව මානව නිර්මාණශීලීත්වය සම්බන්ධයෙන් විශාල වශයෙන් පර්යේෂණ පවත්වාගෙන යයි. කෘත්‍රිම බුද්ධියෙන් නිර්මාණාත්මකව සිතුවමක් තුළින් අදහස් ප්‍රකාශනයක් සිදු කරන්නේ කෙලෙසද? ගොඩනඟාගත් අලුත් සිතුවිලි තුළින් නව නිර්මාණ ඇති කිරීමට කෘත්‍රිම බුද්ධිය භාවිත කරන්නේ කෙලෙසද? නිර්මාණාත්මක හැකියාව කෘත්‍රිම බුද්ධිය තුළ ඇති කරන්නේ කෙලෙසද යන්න පිළිබඳ මේ වන විට රට රටවලද විශ්වවිද්‍යාල තුළ ද පර්යේෂණ පැවැත්වේ. කෙසේ වෙතත් මේ කියන්නා වූ කෘත්‍රීම බුද්ධිය නිර්මාණාත්මකවත්, සදාචාර සම්පන්නවත්, ලෝකයට වැඩදායී ලෙසත් භාවිත කිරීම පිළිබඳ නිවැරැදි ම තීරණ ගත යුත්තේ මිනිසා විසිනි.

(දිනමිණ)

Education News

Stats

There are 28649 listings, 863 categories and 102 owners in our website