ನವದೆಹಲಿ: ಎಲೋನ್ ಮಸ್ಕ್ ನೇತೃತ್ವದ ಎಕ್ಸ್ ತನ್ನ ಎಲ್ಲಾ ಅಸಭ್ಯ ಮತ್ತು ಕಾನೂನುಬಾಹಿರ ವಿಷಯವನ್ನು, ವಿಶೇಷವಾಗಿ ಅದರ AI ಅಪ್ಲಿಕೇಶನ್ ಗ್ರೋಕ್ (Grok) ರಚಿಸಿದ ವಿಷಯವನ್ನು ತಕ್ಷಣವೇ ತೆಗೆದುಹಾಕಬೇಕು ಅಥವಾ ಕಾನೂನು ಕ್ರಮ ಕೈಗೊಳ್ಳಬೇಕು ಎಂದು ಕೇಂದ್ರ ಸರ್ಕಾರ ಒತ್ತಾಯಿಸಿದೆ.

ಈ ಕುರಿತು ಎಕ್ಸ್ ಗೆ ಪತ್ರ ಬರೆದಿರುವ ಕೇಂದ್ರ ಸರ್ಕಾರ ಗ್ರೋಕ್ ಮತ್ತು ಇತರ xAI ಪರಿಕರಗಳಂತಹ ಅದರ AI-ಆಧಾರಿತ ಸೇವೆಗಳ ಮೂಲಕ ಅಶ್ಲೀಲ, ನಗ್ನ, ಅಸಭ್ಯ ಅಥವಾ ಲೈಂಗಿಕವಾಗಿ ಸ್ಪಷ್ಟವಾದ ವಿಷಯವನ್ನು ಹೋಸ್ಟ್ ಮಾಡುವುದು, ರಚಿಸುವುದು ಅಥವಾ ಅಪ್‌ಲೋಡ್ ಮಾಡುವುದರ ವಿರುದ್ಧ ವೇದಿಕೆಗೆ ಎಚ್ಚರಿಕೆ ನೀಡಿದೆ.

ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ವೇದಿಕೆ 'ಗ್ರೋಕ್ ಎಐ'ನಲ್ಲಿ ಅಶ್ಲೀಲ, ನಗ್ನ ಮತ್ತು ಅಸಭ್ಯ ವಿಷಯವನ್ನು ವಿತರಿಸಲು ಎಐ ಆಧಾರಿತ ಸೇವೆಯನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಂಡ ಘಟನೆಗಳ ಬಗ್ಗೆ ಕೇಂದ್ರ ಸರ್ಕಾರ ಗಂಭೀರ ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದೆ. ಈ ನಿಟ್ಟಿನಲ್ಲಿ ತನ್ನ ಕಾನೂನು ಬಾಧ್ಯತೆಗಳನ್ನು ಪಾಲಿಸಲು ವಿಫಲವಾದ ಕಾರಣದಿಂದಾಗಿ ಕೇಂದ್ರ ಎಲೆಕ್ಟ್ರಾನಿಕ್ಸ್ ಮತ್ತು ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ ಸಚಿವಾಲಯವು ಎಕ್ಸ್‌ಗೆ ನೋಟಿಸ್ ನೀಡಿದೆ.

ಕಠಿಣ ಕ್ರಮದ ಎಚ್ಚರಿಕೆ

ಎಲೆಕ್ಟ್ರಾನಿಕ್ಸ್ ಮತ್ತು ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ ಸಚಿವಾಲಯ (MeitY) ನ ಮುಖ್ಯ ಅನುಸರಣಾ ಅಧಿಕಾರಿಗೆ ಬರೆದ ಪತ್ರದಲ್ಲಿ, ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ ಕಾಯ್ದೆ, 2000 ಮತ್ತು ಐಟಿ ನಿಯಮಗಳ ಅಡಿಯಲ್ಲಿ ಅದರ ಶಾಸನಬದ್ಧ ಡ್ಯೂ ಡಿಲಿಜೆನ್ಸ್ ಬಾಧ್ಯತೆಗಳನ್ನು ಪಾಲಿಸುವಂತೆ ವೇದಿಕೆಗೆ ನಿರ್ದೇಶನ ನೀಡಿದೆ. ಪಾಲಿಸದಿರುವುದು ಐಟಿ ಕಾಯ್ದೆಯ ಸೆಕ್ಷನ್ 79 ರ ಅಡಿಯಲ್ಲಿ ಕಾನೂನು ರಕ್ಷಣೆಯನ್ನು ಕಳೆದುಕೊಳ್ಳಲು ಕಾರಣವಾಗಬಹುದು ಎಂದು ಸಚಿವಾಲಯ ಎಚ್ಚರಿಸಿದೆ, ಐಟಿ ಕಾಯ್ದೆ ಮತ್ತು ಭಾರತೀಯ ನ್ಯಾಯ ಸಂಹಿತಾ (ಬಿಎನ್‌ಎಸ್) ಅಡಿಯಲ್ಲಿ ಕ್ರಮಕ್ಕೆ ವೇದಿಕೆಯನ್ನು ಹೊಣೆಗಾರರನ್ನಾಗಿ ಮಾಡುತ್ತದೆ ಎಂದೂ ಹೇಳಲಾಗಿದೆ.

‘ಗ್ರೋಕ್’ ನಂತಹ AI ಆಧಾರಿತ ಸೇವೆಗಳ ದುರುಪಯೋಗದ ಮೂಲಕ ಅಶ್ಲೀಲ, ನಗ್ನ, ಅಸಭ್ಯ ಮತ್ತು ಲೈಂಗಿಕತೆಯುಳ್ಳ ಕಟೆಂಟ್ ಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡುವುದು, ಸೃಷ್ಟಿಸುವುದು, ಪ್ರಕಟಿಸುವುದು, ಪ್ರಸಾರ ಮಾಡುವುದು, ಹಂಚಿಕೊಳ್ಳುವುದು ಅಥವಾ ಅಪ್‌ಲೋಡ್ ಮಾಡುವುದನ್ನು ತಡೆಗಟ್ಟಲು ತಕ್ಷಣ ಕ್ರಮ ಕೈಗೊಂಡು ವರದಿಯನ್ನು ಸಲ್ಲಿಸಬೇಕೆಂದು ಸಚಿವಾಲಯ ಕೋರಿದೆ.

“ನೀವು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಮತ್ತು ಸಂಯೋಜಿಸಲ್ಪಟ್ಟ ಮತ್ತು ಎಕ್ಸ್ ವೇದಿಕೆಯಲ್ಲಿ ಲಭ್ಯವಾಗುವಂತೆ ಮಾಡಲಾದ “Grok AI” ಎಂಬ ಸೇವೆಯನ್ನು ಬಳಕೆದಾರರು ಮಹಿಳೆಯರ ಅಶ್ಲೀಲ ಚಿತ್ರಗಳು ಅಥವಾ ವೀಡಿಯೊಗಳನ್ನು ಅವಹೇಳನಕಾರಿ ಅಥವಾ ಅಸಭ್ಯ ರೀತಿಯಲ್ಲಿ ಹೋಸ್ಟ್ ಮಾಡಲು, ರಚಿಸಲು, ಪ್ರಕಟಿಸಲು ಅಥವಾ ಹಂಚಿಕೊಳ್ಳಲು ನಕಲಿ ಖಾತೆಗಳನ್ನು ರಚಿಸಲು ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ ಎಂದು ವಿಶೇಷವಾಗಿ ಗಮನಿಸಲಾಗಿದೆ. ಈ ಬಗ್ಗೆ ಕ್ರಮ ಕೈಗೊಂಡು ವರದಿ ಸಲ್ಲಿಸಿ” ಎಂದು ಪತ್ರದಲ್ಲಿ ಆದೇಶಿಸಲಾಗಿದೆ.

AI ಲೈಂಗಿಕವಾಗಿ ಸ್ಪಷ್ಟ ಅಥವಾ ಆಕ್ಷೇಪಾರ್ಹ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವುದಿಲ್ಲ ಅಥವಾ ಪ್ರಚಾರ ಮಾಡುವುದಿಲ್ಲ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು, ಅದರ ಪ್ರಾಂಪ್ಟ್-ಪ್ರೊಸೆಸಿಂಗ್ ಸಿಸ್ಟಮ್‌ಗಳು ಸೇರಿದಂತೆ ಗ್ರೋಕ್‌ನ ವಿವರವಾದ ತಾಂತ್ರಿಕ ಮತ್ತು ಆಡಳಿತ ಮಟ್ಟದ ಪರಿಶೀಲನೆಯನ್ನು ತಕ್ಷಣವೇ ಕೈಗೊಳ್ಳುವಂತೆ ಸಚಿವಾಲಯವು X ಗೆ ಕೇಳಿದೆ.

ಇತ್ತೀಚಿನ ವಾರಗಳಲ್ಲಿ, ಛಾಯಾಚಿತ್ರಗಳನ್ನು ಡಿಜಿಟಲ್ ಆಗಿ ಬದಲಾಯಿಸುವ ಮತ್ತು ಬಟ್ಟೆ ಬದಲಾಯಿಸುವ ಮೂಲಕ ಮಹಿಳೆಯರ ಅಶ್ಲೀಲ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಿದ್ದಕ್ಕಾಗಿ X ನ ಗ್ರೋಕ್ AI ಪರಿಶೀಲನೆಗೆ ಒಳಪಟ್ಟಿತ್ತು. ಈ ಘಟನೆಗಳು ತೀಕ್ಷ್ಣವಾದ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ನೀಡಿವೆ, ಶಿವಸೇನೆ (UBT) ರಾಜ್ಯಸಭಾ ಸಂಸದೆ ಪ್ರಿಯಾಂಕಾ ಚತುರ್ವೇದಿ ಅವರು ತುರ್ತು ಕ್ರಮಕ್ಕಾಗಿ ಎಲೆಕ್ಟ್ರಾನಿಕ್ಸ್ ಮತ್ತು ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ ಸಚಿವ ಅಶ್ವಿನಿ ವೈಷ್ಣವ್ ಅವರಿಗೆ ಪತ್ರ ಬರೆದಿದ್ದರು.

ಬಲವಾದ ಪದಗಳ ಪತ್ರದಲ್ಲಿ, ಗ್ರೋಕ್ AI ಅನ್ನು ಬಳಕೆದಾರರು ನಕಲಿ ಖಾತೆಗಳ ಮೂಲಕವೂ ದುರುಪಯೋಗಪಡಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ. ಮಹಿಳೆಯರ ಅಶ್ಲೀಲ ಚಿತ್ರಗಳು ಅಥವಾ ವೀಡಿಯೊಗಳನ್ನು ಅವಹೇಳನಕಾರಿ ಮತ್ತು ಅಸಭ್ಯ ರೀತಿಯಲ್ಲಿ ಹೋಸ್ಟ್ ಮಾಡಲು, ರಚಿಸಲು, ಪ್ರಕಟಿಸಲು ಅಥವಾ ಹಂಚಿಕೊಳ್ಳಲು, ಆ ಮೂಲಕ ಅವರನ್ನು ಅಸಭ್ಯವಾಗಿ ಅವಹೇಳನ ಮಾಡಲಾಗುತ್ತಿದೆ ಎಂದು ಸಚಿವಾಲಯ ಗಮನಿಸಿದೆ ಎಂದು ಹೇಳಿದೆ.

ಅಂತಹ ದುರುಪಯೋಗವು ನಕಲಿ ಖಾತೆಗಳಿಗೆ ಸೀಮಿತವಾಗಿಲ್ಲ. ಆದರೆ ತಮ್ಮದೇ ಆದ ಚಿತ್ರಗಳು ಅಥವಾ ವೀಡಿಯೊಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ಮಹಿಳೆಯರನ್ನು ಗುರಿಯಾಗಿಸುತ್ತದೆ. ನಂತರ ಅವುಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್‌ಗಳು, ಇಮೇಜ್ ಮಾರ್ಪಾಡು ಮತ್ತು ಸಂಶ್ಲೇಷಿತ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಕುಶಲತೆಯಿಂದ ನಿರ್ವಹಿಸಲಾಗುತ್ತದೆ ಎಂದು ಅದು ಹೇಳಿದೆ.

"ಇಂತಹ ನಡವಳಿಕೆಯು ಪ್ಲಾಟ್‌ಫಾರ್ಮ್-ಮಟ್ಟದ ಸುರಕ್ಷತೆಗಳು ಮತ್ತು ಜಾರಿ ಕಾರ್ಯವಿಧಾನಗಳ ಗಂಭೀರ ವೈಫಲ್ಯವನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ ಮತ್ತು ಅನ್ವಯವಾಗುವ ಕಾನೂನುಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ತಂತ್ರಜ್ಞಾನಗಳ ಸಂಪೂರ್ಣ ದುರುಪಯೋಗಕ್ಕೆ ಸಮನಾಗಿರುತ್ತದೆ" ಎಂದು ಪತ್ರದಲ್ಲಿ ತಿಳಿಸಲಾಗಿದೆ.

ಡಿಸೆಂಬರ್ 12, 2025 ರಂದು ಹೊರಡಿಸಲಾದ ಸಲಹೆಯನ್ನು ಸಚಿವಾಲಯವು ಹೈಲೈಟ್ ಮಾಡಿತು, ಅದರ ಅಡಿಯಲ್ಲಿ ಎಲ್ಲಾ ಮಧ್ಯವರ್ತಿಗಳು ತಮ್ಮ ಆಂತರಿಕ ಅನುಸರಣೆ ಚೌಕಟ್ಟುಗಳು, ವಿಷಯ ಮಾಡರೇಶನ್ ಅಭ್ಯಾಸಗಳು ಮತ್ತು ಬಳಕೆದಾರ ಜಾರಿ ಕಾರ್ಯ ವಿಧಾನಗಳನ್ನು ತಕ್ಷಣವೇ ಪರಿಶೀಲಿಸಲು ಮತ್ತು ಐಟಿ ಕಾಯ್ದೆ ಮತ್ತು ಐಟಿ ನಿಯಮಗಳು, 2021 ರ ನಿಬಂಧನೆಗಳಿಗೆ ಕಟ್ಟುನಿಟ್ಟಾದ ಮತ್ತು ನಿರಂತರ ಅನುಸರಣೆಯನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಸೂಚಿಸಲಾಗಿದೆ.

ಐಟಿ ಕಾಯ್ದೆಯನ್ನು ಒತ್ತಿ ಹೇಳುತ್ತಾ, ಅಶ್ಲೀಲ, ನಗ್ನ, ಅಸಭ್ಯ, ಲೈಂಗಿಕವಾಗಿ ಸ್ಪಷ್ಟ, ಅಶ್ಲೀಲ ಅಥವಾ ಪೀಡೋಫಿಲಿಕ್ ವಿಷಯವನ್ನು ಅಥವಾ ಇನ್ನೊಬ್ಬ ವ್ಯಕ್ತಿಯ ಗೌಪ್ಯತೆಯನ್ನು ಉಲ್ಲಂಘಿಸುವ ಯಾವುದೇ ವಿಷಯವನ್ನು ದೈಹಿಕ ಗೌಪ್ಯತೆಯನ್ನು ಒಳಗೊಂಡಂತೆ - AI- ಸಕ್ರಿಯಗೊಳಿಸಿದ ವ್ಯವಸ್ಥೆಗಳು ಮತ್ತು ಪರಿಕರಗಳ ಮೂಲಕವೂ ಸಹ ಹೋಸ್ಟ್ ಮಾಡುವುದು, ರಚಿಸುವುದು, ಪ್ರಕಟಿಸುವುದು, ರವಾನಿಸುವುದು, ಹಂಚಿಕೊಳ್ಳುವುದು ಅಥವಾ ಅಪ್‌ಲೋಡ್ ಮಾಡುವುದು ಗಂಭೀರ ದಂಡದ ಪರಿಣಾಮಗಳನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ ಎಂದು ಸಚಿವಾಲಯ ಪುನರುಚ್ಚರಿಸಿದೆ.

ಇಂತಹ ಉಲ್ಲಂಘನೆಗಳು ಐಟಿ ಕಾಯ್ದೆಯ ಸೆಕ್ಷನ್ 66ಇ, 67, 67ಎ, ಮತ್ತು 67ಬಿ, ಭಾರತೀಯ ನ್ಯಾಯ ಸಂಹಿತಾ, 2023 ರ ಸಂಬಂಧಿತ ನಿಬಂಧನೆಗಳು, ಮಹಿಳೆಯರ ಅಸಭ್ಯ ಪ್ರಾತಿನಿಧ್ಯ (ನಿಷೇಧ) ಕಾಯ್ದೆ, 1986, ಲೈಂಗಿಕ ಅಪರಾಧಗಳಿಂದ ಮಕ್ಕಳ ರಕ್ಷಣೆ ಕಾಯ್ದೆ, 2012 ಮತ್ತು ಇತರ ಅನ್ವಯವಾಗುವ ಕಾನೂನುಗಳು ಸೇರಿದಂತೆ ಹಲವಾರು ಕಾನೂನುಗಳ ಅಡಿಯಲ್ಲಿ ಶಿಕ್ಷಾರ್ಹವಾಗಿವೆ.