Giant AI Experiments වලට Elon Musk බය වෙලා ඉන්නෙ ඇයි?
AI ( බුද්ධිමය යාන්ත්රවිද්යාව) විශයට මුල ඉදල සෑහෙන උදව් කරගෙන ඒකෙන් සෑහෙන වැඩ කරගන්න කෙනෙක් විදියට හිටපු Elon ඇයි මේ විරුද්ධ වෙන්නෙ මේ පරීක්ෂණ නවත්තන්න කියල. මේක ගොඩක් අයට ප්රශ්නකාරී දෙයක්. ලෝකෙ ගොඩක් අය කරන්න බෑ කියද්දි AI වලින් Self drive කරන්න පුලුවන් කාර් එකක් හදපු කෙනෙක් මෙහෙම වෙනස් උනේ ඇයි එක පාරම.
ඒ කතාවට කලින් ඉන්දියාවෙ වෙච්ච වෙන කතාවක් කියල ඉන්නන්. මේක AI කියල දෙයක් ගැන මිනිස්සු හිතන්නත් කලින් උන කතාවක්
ඉස්සර ඉන්දියාවෙ සර්පයො නිසා සෑහෙන්න මිනිස්සුන්ට සත්තුන්ට කරදර වෙලා තියෙනව. දැකල ඇති නේ ඉන්දියාවෙ අඩි 10, 12 පත සයිස් නයි අන්න උන්. මේක වෙලා තියෙන්නෙ අද ඊයෙ නෙවෙයි සුද්ද ඇවිත් ඉන්දියාව අල්ලගෙන හිටපු කාලෙ.
මේ සර්ප කරදරෙන් බේරෙන්න සුද්ද මොකද කරේ. යැව්ව අඩ බෙරයක් ( එහෙත් මෙහෙ වගේ තිබ්බද නන් දන්නෙ නෑ, කොහොම හරි පණිවිඩයක් කියල හිතමුකො) එක සර්පයෙක් මැරුවොත් ඒ ගානට කාසි 2කක් දෙනව කියල. දැන් මොකද උනේ ටික දවසකින් සර්ප කරදරේ ඉවර උනා. ඒත් දැන් තමා හරිම ප්රශ්නෙ පටන් ගන්නෙ. සර්පයන්ගෙ කරදරය නන් ඉවරයි ඒත් මරපු සර්පයො අරගෙන එන සර්ප දඩයන් කාරයො නන් ටික ටික වැඩි වෙනව.
ඉතින් සුද්ද කල්පනා කරාලු මේ මොකද්ද මේ උනේ මුලින් මරාපු හැටියට දැන් හරි නන් අඩු වෙන්න එපායනෙ කියල හොයල බැලුවලු. සුද්දට තරු විසිඋනාලු ඇත්ත හේතුව දැනගත්තම. මිනිස්සු සර්පයො මරණ එක පැත්තක තියල දැන් සර්පයො ඇති කරනවලු. සල්ලි ටිකක් ඕනි උනාම සර්පය මරාන ලග තියෙන කාර්යාලයට ගිහින් දීල සල්ලි කරගන්නවලු.
උනේ මොකද්ද මිනිස්සු සර්පයො හොයල මරණවට වඩා ඇති කරල මරන එකෙන් වැඩිපුර සල්ලි හොයන්න පුලුවන් කියල හොයාගෙන.
අන්තිමට සුද්ද ඕනි එකෙක් සර්පයො කාගත්තයි කියල වැඩේ නවත්තල දැම්මලු.
මේක ඇත්තටම ඇත්තට වෙච්ච සිද්ධියක් මේක තමා අපි Cobra Effect එහෙමත් නැත්ත perverse incentives කියල හදුන්වන්නෙ.
මේක කොහොමද Machine Learning වලට සම්මබන්ධ වෙන්නෙ. ML කියන්නෙ අපේ මොලේම representation එකක් නෙ. එතනත් අපි කරන්නෙ එයාට වැරදීම අඩු කරගත්තොත් වැඩියෙන් ලකුණු දෙනව හරියට අපි විභාග වල වැරදි අඩුවෙන් කරාම වැඩියෙන් ලකුණු දෙනව වගේ.
හිතන්න ML Model එකක් combine කරල තියෙන රොබෝ කෙනෙක්ට අපි උඩ පනින්න පුරුදු කරනව. එයාට අපි ලකුණු දෙනව එයාගෙ කකුල් දෙක පොලව මට්ටමෙන් උඩට ගෙනියන උස අනුව. ඇයි උඩ පැන්නම කකුල් දෙක අනිවාර්යෙන්ම උඩ යනවනෙ.
මෙයා ඉතින් සෑහෙන වෙලාවක් ගන්නවනෙ මේක ඉගෙන ගන්න ඒනිසා අපි ලකුණු දෙන වැඩේ තව Software එකකට පවරල අපිත් පැත්තකට යනව. ලකුණු දෙන Software එක අර කකුල් දෙක උඩට ගන්න ප්රමාණය ගැනල දැන් ලකුණු දෙනව අපේ රොබෝත් දැන් උඩ පනිනව.
ටිකක් වෙලා එහෙට මෙහෙට දගල දගල යන්නත් අගලක් දෙකක් උඩ පැනල ලකුණු ටිකක් එකතු කරගෙන යන්කොටම ඔන්න රොබෝ බිම වැටෙනව එක පාරක් කකුල් දෙක පොඩ්ඩක් උඩට යන්න. අර ලකුණු දෙන එකත් ඉතින් උඩ පැන්නද බිම වැටුනද වෙනසක් දන්නෙ නෑනෙ ඉතින් කකුල් දෙක උඩ නිසා වැඩිපුර ලකුණක් දෙනව. රොබෝ දැනගන්නව උඩපනිනවට වඩා වැටිල කකුල් දෙක ඉස්සුව නන් හරි කියල ලකුණු ගන්න. දැන් ඉතින් ටික ටික මෙයා කකුල් දෙක උඩට යන්න බිම පෙරලිල පෙරලිල අන්තිමට දැනගන්නව ඔලුවෙන් හිටගත්තම උපරිම ලකුණු ගන්න පුලුවන් කියල.
ඉතින් එයා උඩ පනින එක පැත්තක තියල ඔලුවෙන් හිටගෙන වැඩියෙන් ලකුණු ගන්නව. අන්තිමට අපිටත් වෙන්නෙ උඩ පනින එක පැත්තක තියල ඔලුවෙන් හිටගෙන ඉන්න රොබෝ කෙනෙක් බලාගන්න.
අපිට ඕනි Goal එක විතරක් කියලත් මදි හරියට අපි objectives ටිකත් හරියටම දෙන්න ඕනි නැත්තන් වෙන්නෙ ඔය අපි කිව්ව වගේ සිද්ධි නිසා අපේ සම්පූර්ණ උත්සාහයම වතුරෙ යන එක. මේක ඉතින් අපි ML Model එකක් හදනකොට වෙයිද නැද්ද කියල කියන්න හරිම ක්රමයක් නෑ. ඒක ඉතින් ටික ටික අපේ අත්දැකීම් එක්ක තමා අපිට කියන්න වෙන්නෙ මේක හැදුවොත් නන් මෙහෙම දෙයක් වෙයිමයි කියල.
අපි AI කියල කියන්නෙම අපේ බුද්ධිය වැඩ කරන විදිය ආකෘති ගත කරල ඒක කෘතිමව නැවත හදන විශය නිසා, අපිට මේ වගේ දේවල් අපි භාවිතා කරන AI මෘදුකාංග වලින් අපිට බලාගන්න පුලුවන් වෙයි ඉස්සරහට, සමහර විට දැනටත් අපි මේ Social Media වල එහෙම Trap වලට අහු වෙලා ඉන්නව වෙන්නත් පුලුවන්.
මේ වෙනකොට Elon Musk ඇතුලු විද්යාඥයන් සෑහෙන පිරිසක් සෑහෙන්න බය වෙලා ඉන්නෙ මෙන්න මේ වගේ වැරදියට දෙයක් කරන්න ගිහින් මිනිස්සුන්ට හානිදායක වෙන AI Software හැදෙන්න පුලුවන් කියන එකට. තව හේතු ගොඩක් තියෙනව ඒත් අපිට මේක තේරුන් ගන්න පටන් ගන්න මේ කතාව තමා හොදම තැන. මේක ඇත්තටම Elon සද්භාවයෙන් හිතපු දෙයක්ද නැත්තන් අනික් අයට කලින් එයාට මේක කරගන්න බැරි උන නිසා දක්වපු විරෝධයක්ද? කියල අපිට දැනගන්න වෙන්නෙත් ඉතින් ටික කාලයක් ගියාම තමා
පළවෙනි කමෙන්ට් එකට මම ලින්ක් එකක් දැම්ම රොබෝ කෙනෙක් වැරදි වැරදි ඉගෙන ගන්න හැටි ගැන තියෙන
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
credit
HD VIJENDRA
AI ( බුද්ධිමය යාන්ත්රවිද්යාව) විශයට මුල ඉදල සෑහෙන උදව් කරගෙන ඒකෙන් සෑහෙන වැඩ කරගන්න කෙනෙක් විදියට හිටපු Elon ඇයි මේ විරුද්ධ වෙන්නෙ මේ පරීක්ෂණ නවත්තන්න කියල. මේක ගොඩක් අයට ප්රශ්නකාරී දෙයක්. ලෝකෙ ගොඩක් අය කරන්න බෑ කියද්දි AI වලින් Self drive කරන්න පුලුවන් කාර් එකක් හදපු කෙනෙක් මෙහෙම වෙනස් උනේ ඇයි එක පාරම.
ඒ කතාවට කලින් ඉන්දියාවෙ වෙච්ච වෙන කතාවක් කියල ඉන්නන්. මේක AI කියල දෙයක් ගැන මිනිස්සු හිතන්නත් කලින් උන කතාවක්
ඉස්සර ඉන්දියාවෙ සර්පයො නිසා සෑහෙන්න මිනිස්සුන්ට සත්තුන්ට කරදර වෙලා තියෙනව. දැකල ඇති නේ ඉන්දියාවෙ අඩි 10, 12 පත සයිස් නයි අන්න උන්. මේක වෙලා තියෙන්නෙ අද ඊයෙ නෙවෙයි සුද්ද ඇවිත් ඉන්දියාව අල්ලගෙන හිටපු කාලෙ.
මේ සර්ප කරදරෙන් බේරෙන්න සුද්ද මොකද කරේ. යැව්ව අඩ බෙරයක් ( එහෙත් මෙහෙ වගේ තිබ්බද නන් දන්නෙ නෑ, කොහොම හරි පණිවිඩයක් කියල හිතමුකො) එක සර්පයෙක් මැරුවොත් ඒ ගානට කාසි 2කක් දෙනව කියල. දැන් මොකද උනේ ටික දවසකින් සර්ප කරදරේ ඉවර උනා. ඒත් දැන් තමා හරිම ප්රශ්නෙ පටන් ගන්නෙ. සර්පයන්ගෙ කරදරය නන් ඉවරයි ඒත් මරපු සර්පයො අරගෙන එන සර්ප දඩයන් කාරයො නන් ටික ටික වැඩි වෙනව.
ඉතින් සුද්ද කල්පනා කරාලු මේ මොකද්ද මේ උනේ මුලින් මරාපු හැටියට දැන් හරි නන් අඩු වෙන්න එපායනෙ කියල හොයල බැලුවලු. සුද්දට තරු විසිඋනාලු ඇත්ත හේතුව දැනගත්තම. මිනිස්සු සර්පයො මරණ එක පැත්තක තියල දැන් සර්පයො ඇති කරනවලු. සල්ලි ටිකක් ඕනි උනාම සර්පය මරාන ලග තියෙන කාර්යාලයට ගිහින් දීල සල්ලි කරගන්නවලු.
උනේ මොකද්ද මිනිස්සු සර්පයො හොයල මරණවට වඩා ඇති කරල මරන එකෙන් වැඩිපුර සල්ලි හොයන්න පුලුවන් කියල හොයාගෙන.
අන්තිමට සුද්ද ඕනි එකෙක් සර්පයො කාගත්තයි කියල වැඩේ නවත්තල දැම්මලු.
මේක ඇත්තටම ඇත්තට වෙච්ච සිද්ධියක් මේක තමා අපි Cobra Effect එහෙමත් නැත්ත perverse incentives කියල හදුන්වන්නෙ.
මේක කොහොමද Machine Learning වලට සම්මබන්ධ වෙන්නෙ. ML කියන්නෙ අපේ මොලේම representation එකක් නෙ. එතනත් අපි කරන්නෙ එයාට වැරදීම අඩු කරගත්තොත් වැඩියෙන් ලකුණු දෙනව හරියට අපි විභාග වල වැරදි අඩුවෙන් කරාම වැඩියෙන් ලකුණු දෙනව වගේ.
හිතන්න ML Model එකක් combine කරල තියෙන රොබෝ කෙනෙක්ට අපි උඩ පනින්න පුරුදු කරනව. එයාට අපි ලකුණු දෙනව එයාගෙ කකුල් දෙක පොලව මට්ටමෙන් උඩට ගෙනියන උස අනුව. ඇයි උඩ පැන්නම කකුල් දෙක අනිවාර්යෙන්ම උඩ යනවනෙ.
මෙයා ඉතින් සෑහෙන වෙලාවක් ගන්නවනෙ මේක ඉගෙන ගන්න ඒනිසා අපි ලකුණු දෙන වැඩේ තව Software එකකට පවරල අපිත් පැත්තකට යනව. ලකුණු දෙන Software එක අර කකුල් දෙක උඩට ගන්න ප්රමාණය ගැනල දැන් ලකුණු දෙනව අපේ රොබෝත් දැන් උඩ පනිනව.
ටිකක් වෙලා එහෙට මෙහෙට දගල දගල යන්නත් අගලක් දෙකක් උඩ පැනල ලකුණු ටිකක් එකතු කරගෙන යන්කොටම ඔන්න රොබෝ බිම වැටෙනව එක පාරක් කකුල් දෙක පොඩ්ඩක් උඩට යන්න. අර ලකුණු දෙන එකත් ඉතින් උඩ පැන්නද බිම වැටුනද වෙනසක් දන්නෙ නෑනෙ ඉතින් කකුල් දෙක උඩ නිසා වැඩිපුර ලකුණක් දෙනව. රොබෝ දැනගන්නව උඩපනිනවට වඩා වැටිල කකුල් දෙක ඉස්සුව නන් හරි කියල ලකුණු ගන්න. දැන් ඉතින් ටික ටික මෙයා කකුල් දෙක උඩට යන්න බිම පෙරලිල පෙරලිල අන්තිමට දැනගන්නව ඔලුවෙන් හිටගත්තම උපරිම ලකුණු ගන්න පුලුවන් කියල.
ඉතින් එයා උඩ පනින එක පැත්තක තියල ඔලුවෙන් හිටගෙන වැඩියෙන් ලකුණු ගන්නව. අන්තිමට අපිටත් වෙන්නෙ උඩ පනින එක පැත්තක තියල ඔලුවෙන් හිටගෙන ඉන්න රොබෝ කෙනෙක් බලාගන්න.
අපිට ඕනි Goal එක විතරක් කියලත් මදි හරියට අපි objectives ටිකත් හරියටම දෙන්න ඕනි නැත්තන් වෙන්නෙ ඔය අපි කිව්ව වගේ සිද්ධි නිසා අපේ සම්පූර්ණ උත්සාහයම වතුරෙ යන එක. මේක ඉතින් අපි ML Model එකක් හදනකොට වෙයිද නැද්ද කියල කියන්න හරිම ක්රමයක් නෑ. ඒක ඉතින් ටික ටික අපේ අත්දැකීම් එක්ක තමා අපිට කියන්න වෙන්නෙ මේක හැදුවොත් නන් මෙහෙම දෙයක් වෙයිමයි කියල.
අපි AI කියල කියන්නෙම අපේ බුද්ධිය වැඩ කරන විදිය ආකෘති ගත කරල ඒක කෘතිමව නැවත හදන විශය නිසා, අපිට මේ වගේ දේවල් අපි භාවිතා කරන AI මෘදුකාංග වලින් අපිට බලාගන්න පුලුවන් වෙයි ඉස්සරහට, සමහර විට දැනටත් අපි මේ Social Media වල එහෙම Trap වලට අහු වෙලා ඉන්නව වෙන්නත් පුලුවන්.
මේ වෙනකොට Elon Musk ඇතුලු විද්යාඥයන් සෑහෙන පිරිසක් සෑහෙන්න බය වෙලා ඉන්නෙ මෙන්න මේ වගේ වැරදියට දෙයක් කරන්න ගිහින් මිනිස්සුන්ට හානිදායක වෙන AI Software හැදෙන්න පුලුවන් කියන එකට. තව හේතු ගොඩක් තියෙනව ඒත් අපිට මේක තේරුන් ගන්න පටන් ගන්න මේ කතාව තමා හොදම තැන. මේක ඇත්තටම Elon සද්භාවයෙන් හිතපු දෙයක්ද නැත්තන් අනික් අයට කලින් එයාට මේක කරගන්න බැරි උන නිසා දක්වපු විරෝධයක්ද? කියල අපිට දැනගන්න වෙන්නෙත් ඉතින් ටික කාලයක් ගියාම තමා
පළවෙනි කමෙන්ට් එකට මම ලින්ක් එකක් දැම්ම රොබෝ කෙනෙක් වැරදි වැරදි ඉගෙන ගන්න හැටි ගැන තියෙන
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
credit
HD VIJENDRA
Last edited:
