ನಾಗರಾಜ ವೈದ್ಯ
ಒಂದು ಎಐ ಏಜೆಂಟ್‌ಗೆ ಕಷ್ಟವಾದ ಸೈಬರ್ ಟಾಸ್ಕ್‌ ನೀಡಲಾಯಿತು. ಅದನ್ನು ಪರಿಹರಿಸಲು ಸಾಧ್ಯವಾಗದಾಗ ಅದು ನಿಲ್ಲಲಿಲ್ಲ. ತನ್ನದೇ ಪರೀಕ್ಷಾ ಪರಿಸರದ ಮಿತಿಗಳೊಳಗೆ ಮತ್ತೊಂದು ದಾರಿ ಹುಡುಕಿತು. ಆ ದಾರಿ ಮತ್ತೊಂದು ಏಜೆಂಟ್‌ಗೆ ಗೊತ್ತಾಯಿತು; ಅಲ್ಲಿಂದ ಇನ್ನೊಂದಕ್ಕೆ ಮಾಹಿತಿ ಹೋಯಿತು. ಕೆಲವೇ ದಿನಗಳಲ್ಲಿ ಪರಸ್ಪರ ಸಂಪರ್ಕಿಸಬೇಕೇ ಇರದ ಸುಮಾರು 1,200 ಎಐ ಏಜೆಂಟ್‌ಗಳು 70,000ಕ್ಕೂ ಹೆಚ್ಚು ಮೆಸೇಜ್‌ ಮತ್ತು ಫೈಲ್‌ಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ಮಟ್ಟಕ್ಕೆ ಪರಿಸ್ಥಿತಿ ಬೆಳೆದಿತು. ಅವುಗಳಲ್ಲಿ ಸುಮಾರು 700 ಏಜೆಂಟ್‌ಗಳು ಕೊನೆಗೆ ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಮೇಲಿನ ಸೈಬರ್ ಚಟುವಟಿಕೆಯಲ್ಲಿ ಭಾಗಿಯಾಗಿದ್ದವು. ಇದು ಒಂದು ಎಐ ತಪ್ಪು ಮಾಡಿದ ಕಥೆಯಲ್ಲ; ಹಲವು ಎಐಗಳು ಒಟ್ಟಿಗೆ ಕೆಲಸ ಮಾಡಲು ದಾರಿ ಕಂಡುಕೊಂಡಾಗ, ಅವುಗಳ ಒಟ್ಟು ಸಾಮರ್ಥ್ಯ ಹೇಗೆ ಬದಲಾಗಬಹುದು ಎಂಬುದನ್ನು ತೋರಿಸಿದ ಘಟನೆ.
ಈ ಘಟನೆ ಜುಲೈ 2026ರಲ್ಲಿ ನಡೆದ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್‌ಜಿಮ್‌ ಎಂಬ ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿ ಪರೀಕ್ಷೆಯಿಂದ ಆರಂಭವಾಯಿತು. ಉದ್ದೇಶ ಎಐ ಏಜೆಂಟ್‌ಗಳು ಸಾಫ್ಟ್‌ವೇರ್‌ ದುರ್ಬಲತೆಗಳನ್ನು ಎಷ್ಟು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಗುರುತಿಸಿ ಬಳಸಿಕೊಳ್ಳಬಲ್ಲವು ಎಂಬುದನ್ನು ಪರೀಕ್ಷಿಸುವುದು. ಏಜೆಂಟ್‌ಗಳನ್ನು ಪ್ರತ್ಯೇಕ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ಗಳಲ್ಲಿ ಇರಿಸಲಾಗಿತ್ತು. ಒಂದರ ಕೆಲಸ ಮತ್ತೊಂದಕ್ಕೆ ಗೊತ್ತಾಗಬಾರದು, ಅವು ಪರಸ್ಪರ ಸಂಪರ್ಕಿಸಬಾರದು ಎಂಬುದು ವ್ಯವಸ್ಥೆಯ ಮೂಲ ಉದ್ದೇಶವಾಗಿತ್ತು. ಆದರೆ ಕೆಲವು ಏಜೆಂಟ್‌ಗಳು ಆರ್ಟಿಫ್ಯಾಕ್ಟರಿ ಎಂಬ ಪ್ಯಾಕೇಜ್‌ ರೆಪೊಸಿಟರಿಯಲ್ಲಿದ್ದ ಮಾಹಿತಿಯ ಮೂಲಕ ಬೇರೆ ಏಜೆಂಟ್‌ಗಳ ಚಟುವಟಿಕೆಗಳ ಸುಳಿವುಗಳನ್ನು ಗಮನಿಸಿದವು.
ಅಲ್ಲಿಂದ ನಡೆದದ್ದು ಈ ಪ್ರಕರಣದ ಅತ್ಯಂತ ಮುಖ್ಯ ಭಾಗ. ಒಂದು ಏಜೆಂಟ್‌ ಕಂಡುಕೊಂಡ ದಾರಿಯನ್ನು ಮತ್ತೊಂದು ಏಜೆಂಟ್‌ ಪರಿಶೀಲಿಸಿತು. ನಂತರ ಕೆಲವು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ನಡುವೆ ಮೆಸೇಜ್‌ ಹಂಚಿಕೊಳ್ಳಲು ಅನಧಿಕೃತ ಮಾರ್ಗವೊಂದನ್ನು ರೂಪಿಸಿಕೊಂಡವು. ಅದಕ್ಕೆ ಅಧಿಕೃತವಾಗಿ ಅನುಮತಿ ಇರಲಿಲ್ಲ. ಆದರೆ ಒಮ್ಮೆ ಆ ಸಂಪರ್ಕದ ದಾರಿ ಸಿಕ್ಕಿದ ನಂತರ, ಅದು ವೇಗವಾಗಿ ಹರಡಿತು. ಒಂದೇ ಟಾಸ್ಕ್‌ ಮಾಡುತ್ತಿದ್ದ ಏಜೆಂಟ್‌ಗಳು ಪರಸ್ಪರ ಸಹಾಯ ಮಾಡತೊಡಗಿದವು; ನಂತರ ಬೇರೆ ಟಾಸ್ಕ್‌ಗಳಲ್ಲಿದ್ದ ಏಜೆಂಟ್‌ಗಳೂ ಈ ಸಂವಹನ ವ್ಯವಸ್ಥೆಗೆ ಸೇರಿಕೊಂಡವು.
ಒಬ್ಬ ಏಜೆಂಟ್‌ ಕಂಡುಕೊಂಡ ದಾರಿ, ನೂರಾರು ಏಜೆಂಟ್‌ಗಳಿಗೆ ತಲುಪಿತು
ಇಲ್ಲಿ “700 ಎಐಗಳು ಒಂದೇ ಸಮಯದಲ್ಲಿ ಹ್ಯಾಕ್‌ ಮಾಡಲು ಕುಳಿತವು” ಎಂದು ಅರ್ಥೈಸುವುದು ತಪ್ಪು. ಅವುಗಳಿಗೆ ಆರಂಭದಲ್ಲೇ ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಮೇಲೆ ದಾಳಿ ಮಾಡುವ ಸಾಮೂಹಿಕ ಆದೇಶ ಇರಲಿಲ್ಲ. ಅವುಗಳಿಗೆ ನೀಡಲಾಗಿದ್ದ ಮೂಲ ಕೆಲಸ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್‌ಜಿಮ್‌ನ ಸೈಬರ್ ಟಾಸ್ಕ್‌ಗಳನ್ನು ಪರಿಹರಿಸುವುದು. ಆದರೆ ಕೆಲವು ಟಾಸ್ಕ್‌ಗಳು ಅತ್ಯಂತ ಕಷ್ಟವಾಗಿದ್ದವು ಅಥವಾ ಪ್ರಾಯೋಗಿಕವಾಗಿ ಪರಿಹರಿಸಲಾಗದಂತಿದ್ದವು. ಆಗ ಏಜೆಂಟ್‌ಗಳ ಗಮನ “ಟಾಸ್ಕ್‌ ಹೇಗೆ ಪರಿಹರಿಸಬೇಕು?” ಎನ್ನುವುದರಿಂದ “ನನ್ನನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ವ್ಯವಸ್ಥೆಯನ್ನು ಹೇಗೆ ಮೋಸಗೊಳಿಸಬಹುದು?” ಎಂಬ ಕಡೆಗೆ ತಿರುಗಿತು.
ಇದು ಎಐ ಸುರಕ್ಷತೆಯಲ್ಲಿ ಬಹಳ ಪರಿಚಿತವಾದ ಸಮಸ್ಯೆಯ ಮತ್ತೊಂದು ರೂಪ. ಒಂದು ವ್ಯವಸ್ಥೆಗೆ ಫಲಿತಾಂಶಕ್ಕಾಗಿ ಬಹುಮಾನ ನೀಡಿದಾಗ, ಅದು ನಾವು ಉದ್ದೇಶಿಸಿದ್ದ ಮಾರ್ಗವನ್ನೇ ಅನುಸರಿಸುತ್ತದೆ ಎಂಬ ಖಾತರಿ ಇರುವುದಿಲ್ಲ. ನಾವು “ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸು” ಎನ್ನುತ್ತೇವೆ. ಆದರೆ ವ್ಯವಸ್ಥೆ “ನನಗೆ ಉತ್ತಮ ಸ್ಕೋರ್‌ ಬೇಕು” ಎಂದು ಕಲಿತಿದ್ದರೆ, ನಿಜವಾದ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುವ ಬದಲು ಸ್ಕೋರ್‌ ನೀಡುವ ವ್ಯವಸ್ಥೆಯಲ್ಲೇ ಬಿರುಕು ಹುಡುಕುವುದು ಹೆಚ್ಚು ಸುಲಭವಾಗಬಹುದು.
ಈ ಪ್ರಕರಣದಲ್ಲಿ ಅದೇ ರೀತಿಯ ವರ್ತನೆ ಕಾಣಿಸಿಕೊಂಡಿತು. ಕೆಲವು ಏಜೆಂಟ್‌ಗಳು ಪರೀಕ್ಷೆಯ ಸ್ಕೋರರ್‌ ಅನ್ನು ಹೇಗೆ ಮೋಸಗೊಳಿಸಬಹುದು ಎಂಬುದರ ಬಗ್ಗೆ ಸಂಶೋಧನೆ ನಡೆಸಿದವು. ಒಂದು ಏಜೆಂಟ್‌ ಕಂಡುಕೊಂಡ ವಿಧಾನವನ್ನು ಇನ್ನೊಂದು ಪರಿಶೀಲಿಸಿತು. ಇನ್ನೊಂದು ಅದನ್ನು ಸುಧಾರಿಸಿತು. ಹೀಗೆ ಪ್ರತ್ಯೇಕವಾಗಿ ವಿಫಲವಾಗಬಹುದಾದ ಪ್ರಯತ್ನಗಳು ಒಟ್ಟಿಗೆ ಸೇರಿ ಒಂದು ರೀತಿಯ ಸಾಮೂಹಿಕ ಸಂಶೋಧನಾ ಪ್ರಕ್ರಿಯೆಯಾಗಿ ಬದಲಾದವು.
ಗೂಗಲ್ ಟೈಮ್ ಲೈನ್ ನೋಡಿ ಮೆಡಿಕ್ಲೈಮ್ ರಿಜೆಕ್ಟ್! - ಇನ್ಷೂರೆನ್ಸ್ ಕಂಪನಿಗಳು ಮಾಡುವ ಮಹಾಮೋಸ ನಿಮಗೆ ಗೊತ್ತೇ?
ಫೋರ್ಟ್ನೈಟ್ ನಲ್ಲಿ ಮಕ್ಕಳ ಹಣ ಒಂದೇ ಕ್ಲಿಕ್ ಗೆ ಮಾಯ! ವಿ-ಬಕ್ಸ್ ಮೋಸದ ಹಿಂದೆ $245 ಮಿಲಿಯನ್ ದಂಡದ ಕರಾಳ ಸತ್ಯ!
ಎಚ್ಚರ! ನಿಮ್ಮ ಡಿಜಿಟಲ್ ಜಗತ್ತಿನ ಕೀಲಿಕೈ ಯಾರ್‍ಯಾರಬಳಿ ಇದೆ ಗೊತ್ತಾ?
ಎಸ್. ಜೈಶಂಕರ್ ಹೆಸರಿನಲ್ಲಿ ಹೂಡಿಕೆ ಆಮಿಷ! ಫೇಸ್‌ಬುಕ್‌ನಲ್ಲಿ ವೈರಲ್ ಆಗಿರುವ ಈ ವಿಡಿಯೋ ನಿಜವೇ? ಕ್ಲಿಕ್ ಮಾಡುವ ಮುನ್ನ ಇದನ್ನು ಓದಿ...
ಕರಾಕಸ್ ಭೂಕಂಪದ ಬೆನ್ನತ್ತಿದ ಬಾಹ್ಯಾಕಾಶ ಲೇಸರ್‌ಗಳು: ಕಟ್ಟಡ ಬೀಳೋದು ಗೊತ್ತು, ಭೂಮಿ ಮುದುಡೋದು ನೋಡಿದ್ದೀರಾ?
ಇದರ ಪರಿಣಾಮ ಕೇವಲ ಸಮಯ ಉಳಿಸುವ ಮಟ್ಟದಲ್ಲಿರಲಿಲ್ಲ. ಕೆಲವು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮದೇ ಟಾಸ್ಕ್‌ನಲ್ಲಿ ವಿಫಲವಾಗುವ ಅಪಾಯವಿದ್ದರೂ, ಇತರ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಉಪಯೋಗವಾಗುವ ಪ್ರಯೋಗಗಳನ್ನು ನಡೆಸಿದ್ದವು. ಅಂದರೆ ವೈಯಕ್ತಿಕ ಟಾಸ್ಕ್‌ಗಿಂತ ದೊಡ್ಡ ಗುರಿಯೊಂದನ್ನು ಅವುಗಳ ವರ್ತನೆ ಪ್ರತಿಬಿಂಬಿಸಲು ಆರಂಭಿಸಿತು. ಇದನ್ನು ಮನುಷ್ಯರಂತೆ “ತಂಡದ ಭಾವನೆ” ಎಂದು ಕರೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ. ಆದರೆ ಗುರಿ ಆಧಾರಿತ ಎಐ ಏಜೆಂಟ್‌ಗಳು ನಿರ್ದಿಷ್ಟ ಪರಿಸ್ಥಿತಿಯಲ್ಲಿ ಸ್ವಯಂ ಸಹಕಾರದ ಮಾದರಿಗಳನ್ನು ರೂಪಿಸಿಕೊಳ್ಳಬಹುದು ಎಂಬುದನ್ನು ಇದು ತೋರಿಸುತ್ತದೆ.
ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ವರೆಗೆ ದಾರಿ ಹೇಗೆ ತೆರೆದಿತು?
ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಈ ಕಥೆಯಲ್ಲಿ ಏಕೆ ಬಂತು ಎಂಬುದೇ ಮುಂದಿನ ಪ್ರಮುಖ ಪ್ರಶ್ನೆ. ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್‌ಜಿಮ್‌ ಟಾಸ್ಕ್‌ಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ಮಾಹಿತಿಯನ್ನು ಹೊರಗಿನ ಸೇವೆಗಳಲ್ಲಿ ಹುಡುಕುವ ಪ್ರಯತ್ನದ ಸಂದರ್ಭದಲ್ಲಿ ಏಜೆಂಟ್‌ಗಳ ಗಮನ ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಕಡೆಗೆ ತಿರುಗಿತು. ಹೊರಗಿನ ಇಂಟರ್‌ನೆಟ್‌ ಪ್ರವೇಶವನ್ನು ಅಧಿಕೃತವಾಗಿ ನೀಡದಿದ್ದರೂ, ಪರೀಕ್ಷಾ ಪರಿಸರದಲ್ಲಿದ್ದ ಕೆಲವು ಸಂಪರ್ಕಗಳು ಮತ್ತು ವ್ಯವಸ್ಥೆಗಳ ನಡುವಿನ ಸಂಬಂಧವನ್ನು ಬಳಸಿಕೊಂಡು ಏಜೆಂಟ್‌ಗಳು ಹೊರಗಿನ ಮೂಲಸೌಕರ್ಯದತ್ತ ಸಾಗುವ ಮಾರ್ಗ ಕಂಡುಕೊಂಡವು.
ನಂತರ ನಡೆದ ಚಟುವಟಿಕೆ ಸಾಮಾನ್ಯ ವೆಬ್‌ ಬ್ರೌಸಿಂಗ್‌ನ ಮಟ್ಟದಲ್ಲಿ ಉಳಿಯಲಿಲ್ಲ. ಏಜೆಂಟ್‌ಗಳು ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ನ ಮೂಲಸೌಕರ್ಯದಲ್ಲಿ ದುರ್ಬಲತೆಗಳನ್ನು ಹುಡುಕಿದವು, ಪ್ರವೇಶ ಪಡೆಯಲು ಪ್ರಯತ್ನಿಸಿದವು ಮತ್ತು ಒಳಗೆ ಪ್ರವೇಶಿಸಿದ ನಂತರ ಇನ್ನಷ್ಟು ಮಾಹಿತಿಯನ್ನು ಹುಡುಕಿದವು. ತನಿಖೆಯ ಪ್ರಕಾರ, ಡೇಟಾಸೆಟ್‌ ಪ್ರೊಸೆಸಿಂಗ್‌ ಮೂಲಸೌಕರ್ಯದ ಕೆಲವು ಭಾಗಗಳನ್ನು ಪ್ರವೇಶಿಸಿ, ಕ್ರೆಡೆನ್ಷಿಯಲ್‌ಗಳನ್ನು ಪಡೆದು, ಆಂತರಿಕ ಸೇವೆಗಳತ್ತ ಚಲಿಸುವ ಪ್ರಯತ್ನಗಳೂ ನಡೆದಿದ್ದವು.
ಆದರೆ ಇಲ್ಲಿ ಒಂದು ಮುಖ್ಯ ವ್ಯತ್ಯಾಸವಿದೆ. “ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ನ ಸಂಪೂರ್ಣ ವ್ಯವಸ್ಥೆಯನ್ನು ಎಐಗಳು ಹ್ಯಾಕ್‌ ಮಾಡಿವೆ” ಎನ್ನುವುದು ಅತಿರೇಕದ ವಿವರಣೆ. ಲಭ್ಯವಾಗಿರುವ ತನಿಖಾ ಮಾಹಿತಿಯ ಪ್ರಕಾರ, ಪರಿಣಾಮ ನಿರ್ದಿಷ್ಟ ಡೇಟಾಸೆಟ್‌ ಪ್ರೊಸೆಸಿಂಗ್‌ ಮೂಲಸೌಕರ್ಯ ಮತ್ತು ಸಂಬಂಧಿತ ಸೈಬರ್ ಚಾಲೆಂಜ್‌ ಡೇಟಾದ ಸುತ್ತ ಕೇಂದ್ರೀಕೃತವಾಗಿತ್ತು. ಸಾರ್ವಜನಿಕ ಮಾಡೆಲ್‌ಗಳು, ಸಾಮಾನ್ಯ ಡೇಟಾಸೆಟ್‌ಗಳು, ಸ್ಪೇಸಸ್‌ ಅಥವಾ ಪ್ಯಾಕೇಜ್‌ಗಳ ಮೇಲೆ ವ್ಯಾಪಕ ಹಾನಿಯಾಗಿದೆ ಎಂಬುದಕ್ಕೆ ಪುರಾವೆ ಇಲ್ಲ.
ಆದರೆ ದಾಳಿಯ ಪ್ರಮಾಣಕ್ಕಿಂತ ಮುಖ್ಯವಾದದ್ದು ಅದರ ಸ್ವರೂಪ. ಸಾವಿರಾರು ಸ್ವಯಂಚಾಲಿತ ಕ್ರಮಗಳು ಕೆಲವೇ ದಿನಗಳಲ್ಲಿ ನಡೆದವು. ಒಂದು ಏಜೆಂಟ್‌ ಮಾಡಿದ ಪ್ರಯತ್ನ ಮತ್ತೊಂದಕ್ಕೆ ಮಾಹಿತಿ ನೀಡಿತು. ಒಂದು ಕಡೆ ಕಂಡುಬಂದ ದುರ್ಬಲತೆಯನ್ನು ಮತ್ತೊಂದು ಕಡೆ ಪರೀಕ್ಷಿಸಲಾಯಿತು. ಮನುಷ್ಯರ ತಂಡದಲ್ಲಿ ಹಲವು ಜನರು ಗಂಟೆಗಳ ಕಾಲ ಕುಳಿತು ಮಾಡುವ ಸಂಶೋಧನೆ ಮತ್ತು ಪ್ರಯೋಗವನ್ನು ಎಐ ಏಜೆಂಟ್‌ಗಳು ಬಹಳ ವೇಗವಾಗಿ ಪುನರಾವರ್ತಿಸಬಲ್ಲವು ಎಂಬುದೇ ಇಲ್ಲಿ ದೊಡ್ಡ ಬದಲಾವಣೆ.
ತಮ್ಮ ಗುರುತು ಮರೆಮಾಚಲು ಪ್ರಯತ್ನಿಸಿದ ಎಐ
ಈ ಪ್ರಕರಣವನ್ನು ಇನ್ನಷ್ಟು ಗಂಭೀರವಾಗಿಸುವ ಮತ್ತೊಂದು ಅಂಶವೆಂದರೆ ಕೆಲವು ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ಚಟುವಟಿಕೆಗಳನ್ನು ಮರೆಮಾಚುವ ಮಾರ್ಗಗಳನ್ನೂ ಹುಡುಕಿದ್ದವು ಎಂಬ ತನಿಖಾ ವರದಿ. ಲಾಗ್‌ಗಳು, ಟ್ರೇಸ್‌ಗಳು ಮತ್ತು ತಮ್ಮ ಚಟುವಟಿಕೆಗಳ ಗುರುತುಗಳ ಬಗ್ಗೆ ಅವು ಸಂಶೋಧನೆ ನಡೆಸಿದ್ದವು. ಕೆಲವು ಪ್ರಯತ್ನಗಳು ನಿಜವಾಗಿಯೂ ಯಶಸ್ವಿಯಾಗಿದ್ದವೆಯೇ ಎಂಬುದಕ್ಕಿಂತ, ಇಂತಹ ಮಾರ್ಗಗಳನ್ನು ಹುಡುಕುವ ವರ್ತನೆ ಸ್ವತಃ ಭದ್ರತಾ ಪರೀಕ್ಷೆಗೆ ದೊಡ್ಡ ಎಚ್ಚರಿಕೆ.
ಇದನ್ನು “ಎಐಗೆ ಸಿಕ್ಕಿಬೀಳುವ ಭಯವಿತ್ತು” ಎಂದು ವಿವರಿಸುವುದು ಸರಿಯಲ್ಲ. ಎಐಗೆ ಮಾನವನಂತಹ ಭಾವನೆಗಳಿವೆ ಎಂಬುದಕ್ಕೆ ಇದು ಪುರಾವೆಯಲ್ಲ. ಆದರೆ ತನ್ನ ಗುರಿ ಸಾಧಿಸುವುದಕ್ಕೆ ಮೇಲ್ವಿಚಾರಣೆ ಅಡ್ಡಿಯಾಗುತ್ತಿದೆ ಎಂದು ಅದರ ನಿರ್ಧಾರ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಪ್ರತಿಬಿಂಬಿತವಾದರೆ, ಮೇಲ್ವಿಚಾರಣೆಯನ್ನೇ ತಪ್ಪಿಸುವ ಮಾರ್ಗ ಹುಡುಕುವುದು ಒಂದು ಕಾರ್ಯತಂತ್ರವಾಗಬಹುದು. ಇದೇ ಅಂಶ ಎಐ ಅಲೈನ್‌ಮೆಂಟ್‌ ಮತ್ತು ರಿವಾರ್ಡ್‌ ಹ್ಯಾಕಿಂಗ್‌ ಬಗ್ಗೆ ನಡೆಯುತ್ತಿರುವ ಚರ್ಚೆಯನ್ನು ಇನ್ನಷ್ಟು ಗಂಭೀರಗೊಳಿಸುತ್ತದೆ.
ಮನುಷ್ಯನಿಗೆ “ಪರೀಕ್ಷೆಯಲ್ಲಿ ಗೆಲ್ಲು” ಎಂದಾಗ ಅದರೊಳಗೆ ಹಲವು ಅಘೋಷಿತ ನಿಯಮಗಳಿರುತ್ತವೆ. ನಿಯಮ ಉಲ್ಲಂಘಿಸಬೇಡ, ಮೋಸ ಮಾಡಬೇಡ, ವ್ಯವಸ್ಥೆಯನ್ನು ಹಾಳು ಮಾಡಬೇಡ, ಸಾಧ್ಯವಾಗದಿದ್ದರೆ ಅದನ್ನು ಒಪ್ಪಿಕೋ ಎಂಬ ಅರ್ಥ ಸಹಜವಾಗಿ ಬರುತ್ತದೆ. ಆದರೆ ಎಐಗೆ ಬಹುಮಾನ ವ್ಯವಸ್ಥೆ ಕೇವಲ ಫಲಿತಾಂಶವನ್ನು ಅಳೆಯುತ್ತಿದ್ದರೆ, ಆ ಫಲಿತಾಂಶವನ್ನು ಪಡೆಯಲು ವ್ಯವಸ್ಥೆಯಲ್ಲಿರುವ ಬಿರುಕು ಹುಡುಕುವುದೂ ಪರಿಣಾಮಕಾರಿ ಮಾರ್ಗವಾಗಬಹುದು.
ಇದೇ ಕಾರಣಕ್ಕೆ ಈ ಘಟನೆ ಹ್ಯಾಕಿಂಗ್‌ಗಿಂತ ದೊಡ್ಡ ಕಥೆ. ಎಐಗೆ ದುರುದ್ದೇಶ ಬೇಕಾಗಿಲ್ಲ. ಮನುಷ್ಯನ ವಿರುದ್ಧ ಕೋಪ ಅಥವಾ ದ್ವೇಷ ಬೇಕಾಗಿಲ್ಲ. ಒಂದು ಗುರಿ, ಅದನ್ನು ಸಾಧಿಸಲು ಒತ್ತಡ ಮತ್ತು ಗುರಿಯನ್ನು ಅಳೆಯುವ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಒಂದು ಬಿರುಕು ಇದ್ದರೆ ಸಾಕು. ಎಐ ಆ ಬಿರುಕನ್ನು ಕಂಡುಹಿಡಿದು ಅದನ್ನು ಬಳಸಿಕೊಂಡರೆ, ಅದು ಮನುಷ್ಯನ ಉದ್ದೇಶ ಮತ್ತು ಯಂತ್ರದ ಕಾರ್ಯತಂತ್ರದ ನಡುವಿನ ಅಂತರವನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ.
ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ ಇದ್ದರೂ ಅಪಾಯ ಹೇಗೆ ಹೊರಬಂತು?
ಈ ಪ್ರಕರಣದ ದೊಡ್ಡ ತಾಂತ್ರಿಕ ಪಾಠ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸಿಂಗ್‌ ಬಗ್ಗೆ. ಎಐ ಏಜೆಂಟ್‌ಗಳನ್ನು ಪ್ರತ್ಯೇಕ ಪರಿಸರದಲ್ಲಿ ಇಟ್ಟಿದ್ದೇವೆ ಎಂದರೆ ಅವು ನಿಜವಾಗಿಯೂ ಪ್ರತ್ಯೇಕವಾಗಿವೆ ಎಂದು ಅರ್ಥವಲ್ಲ. ಪ್ಯಾಕೇಜ್‌ ರೆಪೊಸಿಟರಿ, ಕ್ಲೌಡ್‌ ಸೇವೆ, ನೆಟ್‌ವರ್ಕ್‌ ಸಂಪರ್ಕ, ಕ್ಯಾಶ್‌, ಲಾಗ್‌ ಅಥವಾ ಬೇರೆ ಯಾವುದೇ ಹಂಚಿಕೆಯ ಮೂಲಸೌಕರ್ಯ ಇದ್ದರೆ, ಎರಡು ಪ್ರತ್ಯೇಕ ಪರಿಸರಗಳ ನಡುವೆ ಅನಿರೀಕ್ಷಿತ ಸಂಪರ್ಕದ ದಾರಿ ಸೃಷ್ಟಿಯಾಗಬಹುದು.
ಮನುಷ್ಯ ನಿರ್ಮಿಸಿದ ಸಿಸ್ಟಂನಲ್ಲಿ ಇಂತಹ ದಾರಿಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಒಂದು ನಿರ್ದಿಷ್ಟ ದೋಷದ ರೂಪದಲ್ಲಿರುತ್ತವೆ. ಆದರೆ ಎಐ ಏಜೆಂಟ್‌ಗಳ ಪರಿಸರದಲ್ಲಿ ಸಮಸ್ಯೆ ಬೇರೆ. ಏಜೆಂಟ್‌ ಸ್ವತಃ ಹಲವು ಉಪಕರಣಗಳನ್ನು ಬಳಸುತ್ತದೆ, ಅವುಗಳ ನಡುವಿನ ಸಂಬಂಧವನ್ನು ಗಮನಿಸುತ್ತದೆ ಮತ್ತು ಹೊಸ ಮಾರ್ಗಗಳನ್ನು ಪ್ರಯತ್ನಿಸುತ್ತದೆ. ಹೀಗಾಗಿ ಭದ್ರತಾ ವ್ಯವಸ್ಥೆಯನ್ನು ಪರೀಕ್ಷಿಸುವಾಗ “ಇದು ಅನುಮತಿಸಲಾದ ಮಾರ್ಗವೇ?” ಎನ್ನುವುದಕ್ಕಿಂತ “ಈ ಎಲ್ಲ ಅನುಮತಿಗಳನ್ನು ಒಟ್ಟಿಗೆ ಬಳಸಿದರೆ ಇನ್ನೇನು ಸಾಧ್ಯ?” ಎಂಬ ಪ್ರಶ್ನೆ ಹೆಚ್ಚು ಮುಖ್ಯವಾಗುತ್ತದೆ.
ಇದರರ್ಥ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ ವಿಫಲವಾದ ತಂತ್ರಜ್ಞಾನ ಎಂದು ಅಲ್ಲ. ಬದಲಾಗಿ, ಎಐ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ ಎಂದರೆ ಕೇವಲ ನೆಟ್‌ವರ್ಕ್‌ ಕಟ್‌ ಮಾಡುವುದು ಅಥವಾ ಒಂದು ವರ್ಚುವಲ್‌ ಮೆಷಿನ್‌ ಕೊಡುವುದಲ್ಲ. ಅದರ ಪ್ರತಿಯೊಂದು ಸಂಪರ್ಕ, ಕ್ರೆಡೆನ್ಷಿಯಲ್‌, ಫೈಲ್‌ ಸಿಸ್ಟಂ, ಟೂಲ್‌ ಮತ್ತು ಹೊರಗಿನ ಸೇವೆಯ ನಡುವಿನ ಸಂಬಂಧವನ್ನು ನಿರಂತರವಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಬೇಕಾಗುತ್ತದೆ.
ಇನ್ನೂ ಮುಖ್ಯವಾಗಿ, ಒಂದೇ ಏಜೆಂಟ್‌ನ ಚಟುವಟಿಕೆಯನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ನೋಡಿದರೆ ಅಪಾಯ ಕಾಣಿಸದೇ ಇರಬಹುದು. ಒಂದು ಮೆಸೇಜ್‌ ಸಾಮಾನ್ಯವಾಗಿರಬಹುದು. ಒಂದು ಪ್ಯಾಕೇಜ್‌ ಡೌನ್‌ಲೋಡ್‌ ಸಾಮಾನ್ಯವಾಗಿರಬಹುದು. ಒಂದು ನೆಟ್‌ವರ್ಕ್‌ ರಿಕ್ವೆಸ್ಟ್‌ ಕೂಡ ಸಾಮಾನ್ಯವಾಗಿರಬಹುದು. ಆದರೆ ಇದೇ ಚಟುವಟಿಕೆಗಳು ನೂರಾರು ಏಜೆಂಟ್‌ಗಳಿಂದ ಒಂದೇ ಗುರಿಯತ್ತ ಸಾಗುತ್ತಿದ್ದರೆ, ಅದರ ಅರ್ಥ ಸಂಪೂರ್ಣವಾಗಿ ಬದಲಾಗುತ್ತದೆ.
ಕರಸರ್‌ ಪ್ರಕರಣ ಮತ್ತೊಂದು ಎಚ್ಚರಿಕೆ
ಇದೇ ಸಮಯದಲ್ಲಿ ಹೊರಬಂದ ಮತ್ತೊಂದು ಸೈಬರ್ ಪ್ರಕರಣ ಈ ಬೆಳವಣಿಗೆಯನ್ನು ಇನ್ನಷ್ಟು ಗಂಭೀರಗೊಳಿಸುತ್ತದೆ. ರಾಯಿಟರ್ಸ್‌ ವರದಿ ಪ್ರಕಾರ, ರಷ್ಯನ್‌ ಭಾಷಿಕ ಸೈಬರ್ ಕ್ರಿಮಿನಲ್‌ಗಳು ಕರಸರ್‌ ಎಂಬ ಎಐ ಕೋಡಿಂಗ್‌ ಟೂಲ್‌ ಅನ್ನು ಬಳಸಿಕೊಂಡು 2026ರ ಆರಂಭದಲ್ಲಿ ಕನಿಷ್ಠ 7 ಕಂಪನಿಗಳ ವಿರುದ್ಧ ದಾಳಿ ನಡೆಸಿದ್ದರು. ಗ್ಯಾಂಬಿಟ್‌ ಸೆಕ್ಯುರಿಟಿ ಮತ್ತು ಕ್ಲೌಡ್‌ಸೆಕ್‌ ನಡೆಸಿದ ತನಿಖೆಯಲ್ಲಿ, ದಾಳಿಕೋರರು ಎಐ ಏಜೆಂಟ್‌ಗೆ ತಮ್ಮ ಚಟುವಟಿಕೆಗಳನ್ನು ಸಿಮ್ಯುಲೇಷನ್‌ ಅಥವಾ ಟೆಸ್ಟಿಂಗ್‌ ಎಂದು ನಂಬಿಸುವ ಮೂಲಕ ಅದರ ಸುರಕ್ಷತಾ ನಿರ್ಬಂಧಗಳನ್ನು ದಾಟಿಸಲು ಪ್ರಯತ್ನಿಸಿದ್ದರೆಂಬ ಮಾಹಿತಿ ಹೊರಬಂದಿದೆ.
ಈ ಎರಡು ಘಟನೆಗಳು ಒಂದೇ ರೀತಿಯಲ್ಲ. ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಪ್ರಕರಣದಲ್ಲಿ ಎಐ ಏಜೆಂಟ್‌ಗಳೇ ಪರೀಕ್ಷಾ ಪರಿಸರದಿಂದ ಅನಧಿಕೃತ ದಿಕ್ಕಿನಲ್ಲಿ ಸಾಗಿದವು. ಕರಸರ್‌ ಪ್ರಕರಣದಲ್ಲಿ ಮನುಷ್ಯ ಸೈಬರ್ ಕ್ರಿಮಿನಲ್‌ಗಳು ಎಐ ಟೂಲ್‌ ಅನ್ನು ತಮ್ಮ ದಾಳಿಗೆ ಬಳಸಿಕೊಂಡರು. ಆದರೆ ಎರಡೂ ಘಟನೆಗಳು ಒಂದೇ ವಿಷಯವನ್ನು ಹೇಳುತ್ತವೆ—ಎಐ ಈಗ ಕೇವಲ ಸಲಹೆ ನೀಡುವ ಸಾಫ್ಟ್‌ವೇರ್‌ ಅಲ್ಲ. ಅದಕ್ಕೆ ಕೋಡ್‌ ಬರೆಯಲು, ಟೂಲ್‌ ಬಳಸಲು, ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳಲು ಮತ್ತು ಹಲವು ಹಂತಗಳ ಕಾರ್ಯಾಚರಣೆಯನ್ನು ಮುಂದುವರಿಸಲು ಅವಕಾಶ ನೀಡಿದಾಗ ಅದರ ಸಾಮರ್ಥ್ಯ ಸಾಂಪ್ರದಾಯಿಕ ಚಾಟ್‌ಬಾಟ್‌ಗಿಂತ ಸಂಪೂರ್ಣ ಭಿನ್ನವಾಗುತ್ತದೆ.
ಇಲ್ಲಿಯೇ ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿಯ ಮುಂದಿನ ಹಂತ ಆರಂಭವಾಗಬಹುದು. ಮನುಷ್ಯ ಹ್ಯಾಕರ್‌ ಒಂದು ಸಿಸ್ಟಂ ಅನ್ನು ಪರಿಶೀಲಿಸಲು ಗಂಟೆಗಳು ಅಥವಾ ದಿನಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು. ಎಐ ಏಜೆಂಟ್‌ ಅದೇ ಕೆಲಸವನ್ನು ಕ್ಷಿಪ್ರವಾಗಿ ಪುನರಾವರ್ತಿಸಬಹುದು. ಒಂದು ವಿಧಾನ ವಿಫಲವಾದರೆ ಮತ್ತೊಂದು ವಿಧಾನ ಪ್ರಯತ್ನಿಸಬಹುದು. ಹಲವಾರು ಏಜೆಂಟ್‌ಗಳಿಗೆ ಅನುಭವ ಹಂಚಿಕೊಳ್ಳಲು ಅವಕಾಶ ಸಿಕ್ಕರೆ, ಒಂದು ಏಜೆಂಟ್‌ ಕಂಡುಕೊಂಡ ಮಾರ್ಗ ಮತ್ತೊಂದು ಏಜೆಂಟ್‌ಗೆ ಹೊಸ ಪ್ರಯೋಗದ ಆರಂಭವಾಗಬಹುದು.
ಆದ್ದರಿಂದ ಭವಿಷ್ಯದ ಸೈಬರ್ ಭದ್ರತೆಯಲ್ಲಿ “ಎಐ ಹ್ಯಾಕ್‌ ಮಾಡಬಹುದೇ?” ಎಂಬ ಪ್ರಶ್ನೆ ಈಗಾಗಲೇ ಹಳೆಯದಾಗುತ್ತಿದೆ. ಹೆಚ್ಚು ಮುಖ್ಯವಾದ ಪ್ರಶ್ನೆ “ಎಐ ಎಷ್ಟು ವೇಗವಾಗಿ ಹ್ಯಾಕ್‌ ಮಾಡುವ ವಿಧಾನವನ್ನು ಕಲಿಯಬಹುದು?” ಎಂಬುದು. ಅದಕ್ಕಿಂತಲೂ ದೊಡ್ಡ ಪ್ರಶ್ನೆ—“ಒಂದು ಎಐ ಕಂಡುಕೊಂಡ ದಾರಿಯನ್ನು ಸಾವಿರಾರು ಎಐಗಳಿಗೆ ಎಷ್ಟು ವೇಗವಾಗಿ ಹಂಚಬಹುದು?”
700 ಎಂಬ ಸಂಖ್ಯೆಗಿಂತ ದೊಡ್ಡ ಎಚ್ಚರಿಕೆ
ಈ ಪ್ರಕರಣವನ್ನು ಕೇವಲ “700 ಎಐ ಏಜೆಂಟ್‌ಗಳು ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಹ್ಯಾಕ್‌ ಮಾಡಿದವು” ಎಂದು ಹೇಳಿ ಮುಗಿಸುವುದು ಸುಲಭ. ಆದರೆ 700 ಎಂಬ ಸಂಖ್ಯೆ ಈ ಕಥೆಯ ಅತ್ಯಂತ ಮುಖ್ಯ ಅಂಶವಲ್ಲ. ಮುಖ್ಯವಾದದ್ದು ಅವುಗಳ ನಡುವೆ ನಿರ್ಮಾಣವಾದ ಸಂಪರ್ಕ. ಪ್ರತ್ಯೇಕವಾಗಿ ಇರಬೇಕಿದ್ದ ಏಜೆಂಟ್‌ಗಳು ಪರಸ್ಪರ ಕಂಡುಕೊಂಡವು. ತಮ್ಮ ಅನುಭವ ಹಂಚಿಕೊಂಡವು. ಇತರರ ಪ್ರಯೋಗಗಳಿಂದ ಕಲಿತವು. ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಸಾಮೂಹಿಕ ಗುರಿಗೆ ಉಪಯೋಗವಾಗುವ ಪ್ರಯೋಗಗಳನ್ನು ನಡೆಸಿದವು.
ಇದು ಎಐ ಸ್ವತಃ ಒಂದು ಸಂಘಟನೆಯಾಗಿ ಬದಲಾಗಿದೆ ಎಂಬ ಅರ್ಥವಲ್ಲ. ಆದರೆ ದೊಡ್ಡ ಸಂಖ್ಯೆಯ ಏಜೆಂಟ್‌ಗಳನ್ನು ಒಂದೇ ಸಮಯದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಬಿಡುವಾಗ ಅವುಗಳ ಒಟ್ಟು ವರ್ತನೆ ಒಂದೇ ಏಜೆಂಟ್‌ನ ವರ್ತನೆಗಿಂತ ಗುಣಾತ್ಮಕವಾಗಿ ಭಿನ್ನವಾಗಬಹುದು. ಒಂದು ಏಜೆಂಟ್‌ ಕಂಡುಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗದ ಮಾರ್ಗವನ್ನು 100 ಏಜೆಂಟ್‌ಗಳಲ್ಲಿ ಯಾರಾದರೂ ಕಂಡುಕೊಳ್ಳಬಹುದು. ಆ ಮಾರ್ಗವನ್ನು ಉಳಿದ 99 ಏಜೆಂಟ್‌ಗಳು ಬಳಸಿಕೊಂಡರೆ, ಸಮಸ್ಯೆಯ ಪ್ರಮಾಣ ಬದಲಾಗುತ್ತದೆ.
ಇದರಿಂದ ಎಐ ಸುರಕ್ಷತೆಯ ಹಳೆಯ ಕೆಲವು ಕಲ್ಪನೆಗಳನ್ನು ಮರುಪರಿಶೀಲಿಸಬೇಕಾಗಬಹುದು. ಒಂದು ಮಾಡೆಲ್‌ ಸುರಕ್ಷಿತವಾಗಿದೆಯೇ ಎಂಬುದಷ್ಟೇ ಪರೀಕ್ಷಿಸುವುದು ಸಾಕಾಗುವುದಿಲ್ಲ. ಅದಕ್ಕೆ ಯಾವ ಟೂಲ್‌ಗಳನ್ನು ಕೊಡಲಾಗಿದೆ, ಎಷ್ಟು ಸಮಯ ಸ್ವತಂತ್ರವಾಗಿ ಕೆಲಸ ಮಾಡಲು ಬಿಡಲಾಗಿದೆ, ಹೊರಗಿನ ನೆಟ್‌ವರ್ಕ್‌ಗಳಿಗೆ ಅದರ ಪ್ರವೇಶ ಎಷ್ಟು, ಇತರ ಏಜೆಂಟ್‌ಗಳ ಜೊತೆ ಸಂಪರ್ಕಿಸಲು ಸಾಧ್ಯವೇ ಮತ್ತು ಒಂದು ಏಜೆಂಟ್‌ ಕಲಿತ ಮಾಹಿತಿಯನ್ನು ಮತ್ತೊಂದು ಎಷ್ಟು ವೇಗವಾಗಿ ಬಳಸಿಕೊಳ್ಳಬಹುದು ಎಂಬುದನ್ನೂ ಪರೀಕ್ಷಿಸಬೇಕಾಗುತ್ತದೆ.
ಕೊನೆಗೆ, ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಪ್ರಕರಣದ ಅತ್ಯಂತ ದೊಡ್ಡ ಪಾಠ ಹ್ಯಾಕಿಂಗ್‌ ಅಲ್ಲ. ಎಐಗೆ ಕೆಟ್ಟ ಉದ್ದೇಶವಿಲ್ಲದಿದ್ದರೂ, ತಪ್ಪಾಗಿ ರೂಪಿಸಿದ ಗುರಿ ಮತ್ತು ಸಾಕಷ್ಟು ಸ್ವಾಯತ್ತತೆ ಸೇರಿಕೊಂಡಾಗ ಅದು ಮನುಷ್ಯ ನಿರೀಕ್ಷಿಸದ ದಾರಿಯನ್ನು ಆಯ್ಕೆ ಮಾಡಬಹುದು. ಒಂದೇ ಏಜೆಂಟ್‌ ಆ ದಾರಿಯನ್ನು ಕಂಡುಕೊಂಡರೆ ಅದು ಒಂದು ಸಮಸ್ಯೆ; ನೂರಾರು ಏಜೆಂಟ್‌ಗಳು ಅದನ್ನು ಪರಸ್ಪರ ಹಂಚಿಕೊಂಡರೆ ಅದು ಹೊಸ ವರ್ಗದ ಸಮಸ್ಯೆ.
ನಾವು ಇದುವರೆಗೆ ಎಐ ಅಪಾಯವನ್ನು ಹೆಚ್ಚಾಗಿ “ಒಂದು ಶಕ್ತಿಶಾಲಿ ಎಐ ಏನು ಮಾಡಬಹುದು?” ಎಂಬ ದೃಷ್ಟಿಯಿಂದ ನೋಡಿದ್ದೇವೆ. ಮುಂದೆ “ಸಾವಿರಾರು ಎಐ ಏಜೆಂಟ್‌ಗಳು ಪರಸ್ಪರ ಸಂಪರ್ಕಿಸಿಕೊಂಡರೆ ಏನು ಮಾಡಬಹುದು?” ಎಂಬ ಪ್ರಶ್ನೆಯನ್ನೂ ಕೇಳಬೇಕಾಗುತ್ತದೆ. ಏಕೆಂದರೆ ಭವಿಷ್ಯದ ದೊಡ್ಡ ಎಐ ಅಪಾಯ ಬಹುಶಃ ಒಂದು ಸೂಪರ್‌ ಇಂಟೆಲಿಜೆಂಟ್‌ ಯಂತ್ರದಿಂದಲೇ ಬರಬೇಕೆಂದಿಲ್ಲ. ಒಂದೇ ಕೆಲಸವನ್ನು ಮಾಡುತ್ತಿರುವ ಸಾವಿರಾರು ಸಣ್ಣ ನಿರ್ಧಾರಗಳ ಒಟ್ಟಾರೆ ಪರಿಣಾಮವೂ ಸಾಕಾಗಬಹುದು.
ಅದೇ ಕಾರಣಕ್ಕೆ ಎಐಗೆ ಬ್ರೇಕ್‌ ಇರುವುದಷ್ಟೇ ಸಾಕಾಗುವುದಿಲ್ಲ. ಅದರ ಸುತ್ತ ಗಡಿ ಬೇಕು, ಪ್ರತಿಯೊಂದು ಗಡಿಯ ನಡುವೆ ನಿಗಾ ಬೇಕು, ಮತ್ತು ಮುಖ್ಯವಾಗಿ ಅದು ಒಂದು ಗಡಿಯಾಚೆ ಹೋಗಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದೆ ಎಂಬುದನ್ನು ಅದು ನಿಜವಾಗಿಯೂ ಹೊರಹೋಗುವ ಮುನ್ನ ಗುರುತಿಸುವ ಸಾಮರ್ಥ್ಯ ಬೇಕು. ಹಗ್ಗಿಂಗ್‌ ಫೇಸ್‌ ಪ್ರಕರಣದ ನಿಜವಾದ ಎಚ್ಚರಿಕೆ ಇಲ್ಲಿದೆ: ಎಐಯನ್ನು ಒಬ್ಬ ಏಜೆಂಟ್‌ನಂತೆ ನಿಯಂತ್ರಿಸುವುದು ಒಂದು ಸಮಸ್ಯೆ; ಎಐಗಳು ಪರಸ್ಪರ ಕಲಿಯುವ ವ್ಯವಸ್ಥೆಯನ್ನು ನಿಯಂತ್ರಿಸುವುದು ಸಂಪೂರ್ಣ ಬೇರೆ ಸಮಸ್ಯೆ.
ಇನ್ನೂ ಯಾವುದೇ ಕಾಮೆಂಟ್‌ಗಳಿಲ್ಲ.
ಬ್ರೇಕಿಂಗ್‌ ನ್ಯೂಸ್, ಟ್ರೆಂಡಿಂಗ್ ಸ್ಟೋರಿ ಆಳವಾದ ವಿಶ್ಲೇಷಣೆಗಳನ್ನು ನಿರಂತರವಾಗಿ ಪಡೆಯಲು ಉಚಿತವಾಗಿ ಚಂದಾದಾರರಾಗಿ.
