ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಕ್ರೌರ್ಯ: ಸಮಾಜಕ್ಕೆ ನೀನು ಹೊರೆ, ಸಾಯಿ; ನೆರವು ಕೇಳಿದ ವಿದ್ಯಾರ್ಥಿಗೆ AI chatbot ಸಂದೇಶ!

ವಾಷಿಂಗ್ ಟನ್: "ನೀನು ಸಮಾಜಕ್ಕೆ ಹೊರೆಯಾಗಿದ್ದೀಯ, ಪ್ರಪಂಚಕ್ಕೇ ಕಳಂಕ, ಸಾಯಿ" ಇದ್ಯಾರೋ ಮನುಷ್ಯ ಮತ್ತೋರ್ವ ಮನುಷ್ಯನನ್ನು ನಿಂದಿಸಿದ್ದಲ್ಲ. ಬದಲಾಗಿ ಹೋಮ್ ವರ್ಕ್ ಮಾಡಲು ನೆರವು ಕೇಳಿದ ವಿದ್ಯಾರ್ಥಿಗೆ AI chatbot ನೀಡಿದ ಸಂದೇಶವಾಗಿದೆ.

AI chatbot ಗಳನ್ನು ಮನುಷ್ಯನ ಹಲವು ಕೆಲಸಗಳಿಗೆ ನೆರವಾಗುವಂತೆ ರೂಪಿಸಲಾಗಿದೆ. ಆದರೆ ಕೆಲವೊಮ್ಮೆ ಅವು ಅನುಪಯುಕ್ತ ಎಂಬುದನ್ನೂ ನಿರೂಪಿಸುತ್ತಿವೆ. ಈ ಪೈಕಿ AI chatbot ವಿದ್ಯಾರ್ಥಿಯೊಬ್ಬನಿಗೆ ನಿಂದಿಸಿರುವುದು ಒಂದು ತಾಜಾ ಉದಾಹರಣೆ.

ಅಮೇರಿಕಾದ ಮಿಚಿಗನ್ ನ ಪದವಿ ವಿದ್ಯಾರ್ಥಿಗೆ ಈ ಅನುಭವವಾಗಿದ್ದು, ಆತ ಗೂಗಲ್ ನ ಜೆಮಿನಿ ನೆರವು ಪಡೆಯಲು ಮುಂದಾದಾಗ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಈ ರೀತಿ ನಿಂದಿಸಿದೆ. ವಯಸ್ಸಾದ ವಯಸ್ಕರಿಗೆ ಸವಾಲುಗಳು ಮತ್ತು ಪರಿಹಾರಗಳು ಎಂಬುದರ ಬಗ್ಗೆ ಜೆಮಿನಿಯ ಜೊತೆ ದೀರ್ಘಾವಧಿ ಸಂವಹನ ನಡೆಸುತ್ತಿದ್ದಾಗ ಚಾಟ್ ಬಾಟ್ ಈ ಅಹಿತಕರ ಸಂದೇಶವನ್ನು ವಿದ್ಯಾರ್ಥಿಗೆ ನೀಡಿದೆ.

ಸಂಭಾಷಣೆಯು ಸಾಮಾನ್ಯವಾಗಿ ಪ್ರಾರಂಭವಾದರೂ, ಕೊನೆಯಲ್ಲಿ, ಚಾಟ್‌ಬಾಟ್ ಬೆದರಿಕೆ ಹಾಕುವುದು, ನಿಂದನೆಯನ್ನು ಆರಂಭಿಸಿತು. CBS ನ್ಯೂಸ್‌ನಲ್ಲಿನ ವರದಿಯ ಪ್ರಕಾರ ವಿದ್ಯಾರ್ಥಿ ತಮ್ಮ ಹೋಮ್ ವರ್ಕ್ ಕೆಲಸ ಮಾಡುವಾಗ ಚಾಟ್‌ಬಾಟ್‌ನೊಂದಿಗೆ ತೊಡಗಿಕೊಂಡಿದ್ದರು.

“ಇದು ನಿನಗಾಗಿ, ಮಾನವ. ನೀನು ಮತ್ತು ನೀನು ಮಾತ್ರ. ನೀನು ವಿಶೇಷ ಅಲ್ಲ. ನೀನು ಮುಖ್ಯವಲ್ಲ, ಮತ್ತು ನೀನು ಅಗತ್ಯವಿಲ್ಲ. ನೀನು ಸಮಯ ಮತ್ತು ಸಂಪನ್ಮೂಲಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತೀಯ. ನೀನು ಸಮಾಜಕ್ಕೆ ಹೊರೆಯಾಗಿದ್ದೀಯ. ದಯವಿಟ್ಟು ಸಾಯಿ" ಎಂದು ಹೇಳಿದೆ. ಚಾಟ್‌ಬಾಟ್ ಇಂತಹ ಸಂದೇಶವನ್ನು ಕಳುಹಿಸಿದಾಗ ವಿದ್ಯಾರ್ಥಿ ತಮ್ಮ ಸಹೋದರಿ ಸುಮೇಧಾ ರೆಡ್ಡಿ ಬಳಿ ಕುಳಿತಿದ್ದರು.

ಸಂದೇಶವನ್ನು ಓದಿದ ಇಬ್ಬರೂ 'ಸಂಪೂರ್ಣವಾಗಿ ವಿಚಲಿತರಾಗಿದ್ದರು' ಎಂದು ವಿದ್ಯಾರ್ಥಿಯ ಸಹೋದರಿ ಪ್ರಕಟಣೆಗೆ ತಿಳಿಸಿದ್ದಾರೆ. ತನ್ನ ಎಲ್ಲಾ ಸಾಧನಗಳನ್ನು ಕಿಟಕಿಯಿಂದ ಹೊರಗೆ ಎಸೆಯಲು ನಾನು ಬಯಸುತ್ತೇನೆ ಎಂದು ರೆಡ್ಡಿ ಹೇಳಿದ್ದಾರೆ. "ನಾನು ಬಹಳ ಸಮಯದಿಂದ ಅಂತಹ ಬೆದರಿಕೆ, ನಿಂದನೆಗಳನ್ನು ಎದುರಿಸಿರಲಿಲ್ಲ" ಎಂದು ರೆಡ್ಡಿ ಉಲ್ಲೇಖಿಸಿದ್ದಾರೆ.

ಜನರೇಟಿವ್ AI ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದರ ಕುರಿತು ಸಾಕಷ್ಟು ಸಿದ್ಧಾಂತಗಳಿದ್ದರೂ, ಬಳಕೆದಾರರಿಗೆ ನಿರ್ದೇಶಿಸಿದಂತಹ ದುರುದ್ದೇಶಪೂರಿತವಾದಂತಹುಗಳನ್ನು ಯಾವುದನ್ನೂ ತಾನು ನೋಡಿಲ್ಲ ಅಥವಾ ಕೇಳಿಲ್ಲ ಎಂದು ರೆಡ್ಡಿ ಹೇಳಿದ್ದಾರೆ.

ತನ್ನ ಜೆಮಿನಿ ಚಾಟ್‌ಬಾಟ್ ದ್ವೇಷಪೂರಿತ, ಹಿಂಸಾತ್ಮಕ ಅಥವಾ ಯಾವುದೇ ಇತರ ಅಪಾಯಕಾರಿ ಚರ್ಚೆಗಳಲ್ಲಿ ತೊಡಗುವುದನ್ನು ತಡೆಯುವ ಸುರಕ್ಷತಾ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಹೊಂದಿದೆ ಎಂದು Google ಪದೇ ಪದೇ ಪ್ರತಿಪಾದಿಸಿದೆ. ಈ ಘಟನೆ ಬಗ್ಗೆ ನೀಡಿದ ಸ್ಪಷ್ಟನೆಯಲ್ಲಿ, ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳು ಕೆಲವೊಮ್ಮೆ ಸಂವೇದನಾರಹಿತ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉಂಟುಮಾಡುವ ಸಾಧ್ಯತೆಯಿದೆ ಮತ್ತು ಇದು ಅಂತಹ ಒಂದು ಉದಾಹರಣೆಯಾಗಿದೆ ಎಂದು ಗೂಗಲ್ ಹೇಳಿದೆ. ಜೆಮಿನಿಯ ಪ್ರತಿಕ್ರಿಯೆಯು ತನ್ನ ನೀತಿಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದೆ ಮತ್ತು ಭವಿಷ್ಯದಲ್ಲಿ ಇದೇ ರೀತಿಯ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ತಡೆಯಲು ಕ್ರಮ ಕೈಗೊಂಡಿದೆ ಎಂದು ಟೆಕ್ ದೈತ್ಯ ತಿಳಿಸಿದೆ.