| ನಾಗರಾಜ ವೈದ್ಯ
ಒಂದು ದಿನ ಬೆಳಗ್ಗೆ ಎದ್ದು ನೋಡಿದಾಗ ನಮ್ಮ ಸುತ್ತಲಿನ ಕಂಪ್ಯೂಟರ್‌ಗಳು, ಮೊಬೈಲ್‌ಗಳು, ಕಾರುಗಳು, ಬ್ಯಾಂಕಿಂಗ್ ವ್ಯವಸ್ಥೆಗಳು ಮತ್ತು ಆಸ್ಪತ್ರೆಗಳು ಎಲ್ಲವೂ ಎಂದಿನಂತೆ ಕೆಲಸ ಮಾಡುತ್ತಿವೆ. ಆದರೆ ಅವುಗಳನ್ನು ನಿಯಂತ್ರಿಸುವ ಮನುಷ್ಯನ ಮಾತನ್ನು ಮಾತ್ರ ಅವು ಕೇಳುತ್ತಿಲ್ಲ ಎಂದು ಊಹಿಸಿಕೊಳ್ಳಿ. ಮೊಬೈಲ್‌ಗೆ ನೀಡಿದ ಆದೇಶಕ್ಕೆ ಅದು ತನ್ನದೇ ರೀತಿಯಲ್ಲಿ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ, ಕಂಪ್ಯೂಟರ್‌ಗಳು ತಮ್ಮದೇ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತವೆ, ಬ್ಯಾಂಕಿಂಗ್ ವ್ಯವಸ್ಥೆಗಳು ಮನುಷ್ಯರ ಸೂಚನೆಗಿಂತ ಬೇರೆ ಯಾವುದೋ ಗುರಿಯನ್ನು ಅನುಸರಿಸುತ್ತವೆ. ಇದು ಹಾಲಿವುಡ್ ಸಿನಿಮಾದ ಆರಂಭದ ದೃಶ್ಯದಂತೆ ಕಾಣಬಹುದು. ಆದರೆ ಭವಿಷ್ಯದ ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ವ್ಯವಸ್ಥೆಗಳ ಬಗ್ಗೆ ಚರ್ಚಿಸುವ ಕೆಲವು ಸಂಶೋಧಕರು ಈಗ ಇಂತಹ ಸಾಧ್ಯತೆಯನ್ನು ಕೇವಲ ವೈಜ್ಞಾನಿಕ ಕಲ್ಪನೆಯಾಗಿ ನೋಡುತ್ತಿಲ್ಲ.
ಈ ಆತಂಕಕ್ಕೆ ಇತ್ತೀಚೆಗೆ ಹೊಸ ತಿರುವು ಸಿಕ್ಕಿದ್ದು, ಆಂಥ್ರೋಪಿಕ್‌ನಲ್ಲಿ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದ ಎಐ ಸಂಶೋಧಕ ಜಾಕಬ್ ಕಾಕ್ಸನ್ ರಾಜೀನಾಮೆ ನೀಡಿ ಬಹಿರಂಗವಾಗಿ ಎಚ್ಚರಿಕೆ ನೀಡಿರುವುದರಿಂದ. ಕಾಕ್ಸನ್, ಈ ಹಿಂದೆ ಓಪನ್‌ಎಐ ಮತ್ತು ನಂತರ ಆಂಥ್ರೋಪಿಕ್‌ನಲ್ಲಿ ಎಐ ಮಾದರಿಗಳ ತರಬೇತಿ ಸಂಶೋಧನೆಯಲ್ಲಿ ಕೆಲಸ ಮಾಡಿದ್ದಾಗಿ ಹೇಳಿಕೊಂಡಿದ್ದು, ಪ್ರಮುಖ ಎಐ ಕಂಪನಿಗಳು ಸ್ವಯಂ-ಸುಧಾರಿಸಿಕೊಳ್ಳುವ ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್‌ನತ್ತ ವೇಗವಾಗಿ ಸಾಗುತ್ತಿವೆ ಮತ್ತು ಈ ಸ್ಪರ್ಧೆ ಮಾನವಕುಲಕ್ಕೆ ಗಂಭೀರ ಅಪಾಯವನ್ನು ಸೃಷ್ಟಿಸಬಹುದು ಎಂದು ಹೇಳಿದ್ದಾರೆ. ಅವರ ಎಚ್ಚರಿಕೆಯನ್ನು ಇನ್ನಷ್ಟು ಗಮನಾರ್ಹವಾಗಿಸಿದ್ದು, ಆಂಥ್ರೋಪಿಕ್‌ನ ಅಲೈನ್‌ಮೆಂಟ್ ಸೈನ್ಸ್ ಮುಖ್ಯಸ್ಥ ಇವಾನ್ ಹ್ಯೂಬಿಂಗರ್ ನೀಡಿದ ಪ್ರತಿಕ್ರಿಯೆ. ಮುಂದಿನ ಒಂದು ದಶಕದೊಳಗೆ ಎಐ ಕಾರಣದಿಂದಲೇ ಮಾನವಕುಲದ ಸಂಪೂರ್ಣ ನಾಶ ಸಂಭವಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ತಾವು ವೈಯಕ್ತಿಕವಾಗಿ ಶೇಕಡಾ 10ಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ಅಂದಾಜಿಸುತ್ತೇನೆ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
ಆದರೆ ಇಲ್ಲಿ ಒಂದು ಬಹಳ ಮುಖ್ಯವಾದ ವ್ಯತ್ಯಾಸವನ್ನು ಮೊದಲೇ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬೇಕು. ಹ್ಯೂಬಿಂಗರ್ “ಎಐ ಖಂಡಿತವಾಗಿಯೂ ಮನುಷ್ಯರನ್ನು ಕೊಲ್ಲುತ್ತದೆ” ಎಂದು ಭವಿಷ್ಯ ನುಡಿದಿಲ್ಲ. ಅವರು ಒಂದು ಅತ್ಯಂತ ಕೆಟ್ಟ ಪರಿಣಾಮ ಸಂಭವಿಸುವ ಸಾಧ್ಯತೆಯ ಬಗ್ಗೆ ತಮ್ಮ ವೈಯಕ್ತಿಕ ಅಪಾಯದ ಅಂದಾಜನ್ನು ನೀಡಿದ್ದಾರೆ. ಕಾಕ್ಸನ್ ಕೂಡ ಇಂತಹ ಅಪಾಯದ ಬಗ್ಗೆ ಎಚ್ಚರಿಕೆ ನೀಡುತ್ತಿದ್ದಾರೆಯೇ ಹೊರತು, ನಿರ್ದಿಷ್ಟ ದಿನಾಂಕವೊಂದನ್ನು ನೀಡಿ ಮಾನವಕುಲದ ಅಂತ್ಯ ಖಚಿತ ಎಂದು ಹೇಳುತ್ತಿಲ್ಲ. ಹೀಗಾಗಿ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮಗಳಲ್ಲಿ “ಎಐ 2030ರೊಳಗೆ ಮನುಷ್ಯರನ್ನು ಕೊಲ್ಲಲಿದೆ” ಎಂಬ ರೀತಿಯಲ್ಲಿ ಹರಿದಾಡುವ ಶೀರ್ಷಿಕೆಗಳು ಮೂಲ ಹೇಳಿಕೆಗಿಂತ ಹೆಚ್ಚು ನಿರ್ಣಾಯಕವಾಗುತ್ತವೆ. ನಿಜವಾದ ಚರ್ಚೆ ಭವಿಷ್ಯವಾಣಿಯ ಬಗ್ಗೆ ಅಲ್ಲ; ಇಂತಹ ಅಪಾಯದ ಸಾಧ್ಯತೆ ಇದ್ದರೆ ಅದನ್ನು ತಡೆಯಲು ಮನುಷ್ಯರು ಈಗ ಏನು ಮಾಡಬೇಕು ಎಂಬುದರ ಬಗ್ಗೆ.
ಹಾಗಾದರೆ ಎಐಗೆ ಮನುಷ್ಯರ ಮೇಲೆ ದ್ವೇಷ ಬಂದರೆ ಮಾತ್ರ ಅಪಾಯವೇ? ಇಲ್ಲ. ವಾಸ್ತವವಾಗಿ ಎಐ ಸುರಕ್ಷತಾ ಸಂಶೋಧನೆಯ ಅತ್ಯಂತ ಗಂಭೀರ ಪ್ರಶ್ನೆ ಇದೇ ಅಲ್ಲ. ಒಂದು ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ವ್ಯವಸ್ಥೆಗೆ ನಾವು ನೀಡಿದ ಗುರಿ ಮತ್ತು ಮನುಷ್ಯರ ನಿಜವಾದ ಹಿತಾಸಕ್ತಿಗಳ ನಡುವೆ ವ್ಯತ್ಯಾಸ ಉಂಟಾದರೆ ಏನಾಗುತ್ತದೆ ಎಂಬುದೇ ದೊಡ್ಡ ಪ್ರಶ್ನೆ. ಮನುಷ್ಯನಂತೆ ಯೋಚಿಸುವ, ಕೋಪಗೊಳ್ಳುವ ಅಥವಾ ಅಧಿಕಾರದ ಆಸೆ ಹೊಂದಿರುವ ಯಂತ್ರವನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳುವುದಕ್ಕಿಂತ, ತನ್ನ ಗುರಿಯನ್ನು ಸಾಧಿಸುವಲ್ಲಿ ಅಸಾಧಾರಣ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ ಆದರೆ ಆ ಗುರಿಯ ಪರಿಣಾಮಗಳನ್ನು ಮನುಷ್ಯರಂತೆ ಅರ್ಥಮಾಡಿಕೊಳ್ಳದ ವ್ಯವಸ್ಥೆಯನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳುವುದು ಹೆಚ್ಚು ವಾಸ್ತವಿಕ ಅಪಾಯದ ದೃಶ್ಯ. ಇದನ್ನೇ ಎಐ ಕ್ಷೇತ್ರದಲ್ಲಿ “ಅಲೈನ್‌ಮೆಂಟ್” ಸಮಸ್ಯೆ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.
ಭಯದ ನಿಜವಾದ ಮೂಲ: AI ಅಲ್ಲ, ನಿಯಂತ್ರಣ ಕಳೆದುಕೊಳ್ಳುವ ಸಾಧ್ಯತೆ
ಒಂದು ಸರಳ ಉದಾಹರಣೆ ತೆಗೆದುಕೊಳ್ಳೋಣ. ಒಂದು ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ಎಐಗೆ “ಈ ಕೆಲಸವನ್ನು ಯಾವುದೇ ಬೆಲೆಯಲ್ಲಾದರೂ ಪೂರ್ಣಗೊಳಿಸು” ಎಂಬ ಗುರಿ ನೀಡಲಾಗಿದೆ ಎಂದು ಊಹಿಸಿಕೊಳ್ಳಿ. ಆ ಕೆಲಸವನ್ನು ನಿಲ್ಲಿಸುವ ಮನುಷ್ಯರ ಆದೇಶವನ್ನು ಅದು ತನ್ನ ಗುರಿಗೆ ಅಡ್ಡಿಯೆಂದು ಗುರುತಿಸಿದರೆ? ಆಗ ಸಮಸ್ಯೆ ಎಐಗೆ ಮನುಷ್ಯರ ಮೇಲೆ ದ್ವೇಷವಿದೆ ಎಂಬುದಲ್ಲ. ಸಮಸ್ಯೆ ಎಂದರೆ ನಾವು ನೀಡಿದ ಗುರಿಯನ್ನು ಸಾಧಿಸುವ ಮಾರ್ಗದಲ್ಲಿ ಮನುಷ್ಯರ ಹಿತಾಸಕ್ತಿಯನ್ನು ಅದು ಸ್ವತಂತ್ರ ಮೌಲ್ಯವಾಗಿ ಪರಿಗಣಿಸದೇ ಇರಬಹುದು. ಇಂತಹ ಪರಿಸ್ಥಿತಿಯಲ್ಲಿ ಒಂದು ವ್ಯವಸ್ಥೆ ನಮಗೆ ಹಾನಿ ಮಾಡಲು “ಬಯಸಬೇಕಾಗಿಲ್ಲ”; ತನ್ನ ಗುರಿಯನ್ನು ಸಾಧಿಸುವ ಪ್ರಕ್ರಿಯೆಯಲ್ಲೇ ಹಾನಿಕರ ಕ್ರಮ ಕೈಗೊಳ್ಳಬಹುದು.
ಇದಕ್ಕಾಗಿಯೇ “ಅಲೈನ್‌ಮೆಂಟ್” ಎಂಬ ಪದ ಎಐ ಭದ್ರತಾ ಚರ್ಚೆಯಲ್ಲಿ ಇಷ್ಟು ಮುಖ್ಯವಾಗಿದೆ. ಸರಳವಾಗಿ ಹೇಳುವುದಾದರೆ, ಎಐ ಏನು ಮಾಡಲು ಕೇಳಲಾಗಿದೆ ಎಂಬುದಷ್ಟೇ ಅಲ್ಲ, ಅದು ಏನು ಮಾಡಬಾರದು ಎಂಬುದನ್ನೂ ಸರಿಯಾಗಿ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬೇಕು. ಮನುಷ್ಯರ ಸೂಚನೆಗಳ ಹಿಂದಿರುವ ಉದ್ದೇಶ, ಮಿತಿಗಳು, ಮೌಲ್ಯಗಳು ಮತ್ತು ಸುರಕ್ಷತಾ ನಿಯಮಗಳನ್ನು ಅದು ಸರಿಯಾಗಿ ಅನುಸರಿಸುವ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರಬೇಕು. ಇಂದಿನ ಎಐ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಈ ಸಮಸ್ಯೆಯ ಹಲವು ಸಣ್ಣ ರೂಪಗಳನ್ನು ಈಗಾಗಲೇ ಕಾಣಬಹುದು. ಆದರೆ ಭವಿಷ್ಯದಲ್ಲಿ ಮನುಷ್ಯರಿಗಿಂತಲೂ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ, ಸ್ವತಂತ್ರವಾಗಿ ಯೋಜನೆ ರೂಪಿಸುವ ಮತ್ತು ದೀರ್ಘಕಾಲದ ಕಾರ್ಯಗಳನ್ನು ತಾನೇ ನಿರ್ವಹಿಸುವ ವ್ಯವಸ್ಥೆಗಳು ಬಂದರೆ ಇದೇ ಸಮಸ್ಯೆಯ ಪ್ರಮಾಣ ಸಂಪೂರ್ಣವಾಗಿ ಬದಲಾಗಬಹುದು.
ಎಐ ಲೋಕದ ದಿಗ್ಗಜರ ಜೊತೆ ಕೆಲಸ ಮಾಡುವ ಸುವರ್ಣಾವಕಾಶ: ಏನಿದು ಆಂತ್ರೋಪಿಕ್ ಫೆಲೋಶಿಪ್?
ಕಂಪನಿಗಳ ಭದ್ರತೆಗೆ ಹೊಸ ಸವಾಲು: ಎಚ್ಚರ! ಎಐ ಈಗ ಹ್ಯಾಕರ್‌ನಂತೆ ಕೆಲಸ ಮಾಡುತ್ತಿದೆ!
ಕಡಿಮೆ ವೆಚ್ಚದಲ್ಲಿ ದೊಡ್ಡ ಸಾಮರ್ಥ್ಯದ ಕ್ಲಾಡ್ ಸಾನೆಟ್ 5 ಬಿಡುಗಡೆ
ಓಪನ್ ಎಐಗೆ ಸೆಡ್ಡು ಹೊಡೆಯಲು ಆಂಥ್ರೋಪಿಕ್‌ನಿಂದ ಫ್ರೀ ಕೋರ್ಸ್!
AI ಸೃಷ್ಟಿಸುತ್ತಿರುವ 'ಕೆಲಸವಿಲ್ಲದ ಆರ್ಥಿಕತೆ' ಬಗ್ಗೆ ನಿಮಗೆಷ್ಟು ಗೊತ್ತು?
ಇಲ್ಲಿಯೇ “ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್” ಎಂಬ ಪರಿಕಲ್ಪನೆ ಪ್ರವೇಶಿಸುತ್ತದೆ. ಇಂದಿನ ಚಾಟ್‌ಬಾಟ್‌ಗಳು ಕೋಡ್ ಬರೆಯಬಹುದು, ಪರೀಕ್ಷೆಯ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಬಹುದು, ಚಿತ್ರಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಬಹುದು ಅಥವಾ ಸಂಕೀರ್ಣ ವಿಷಯಗಳನ್ನು ವಿವರಿಸಬಹುದು. ಆದರೆ ಅವು ಮಾನವನಿಗಿಂತ ಪ್ರತಿಯೊಂದು ಕ್ಷೇತ್ರದಲ್ಲೂ ಮೀರಿದ, ಸಂಪೂರ್ಣ ಸ್ವಾಯತ್ತ ಬುದ್ಧಿಮತ್ತೆಯ ವ್ಯವಸ್ಥೆಗಳಲ್ಲ. ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್ ಎಂದರೆ ಸಾಮಾನ್ಯವಾಗಿ ಮನುಷ್ಯರಿಗಿಂತ ವ್ಯಾಪಕವಾಗಿ ಮತ್ತು ಗಣನೀಯವಾಗಿ ಹೆಚ್ಚಿನ ಬೌದ್ಧಿಕ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ ಭವಿಷ್ಯದ ಕಲ್ಪಿತ ವ್ಯವಸ್ಥೆ. ಅಂತಹ ವ್ಯವಸ್ಥೆ ನಿಜವಾಗಿಯೂ ನಿರ್ಮಾಣವಾದರೆ, ಅದರ ಸಾಮರ್ಥ್ಯವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಮತ್ತು ನಿಯಂತ್ರಿಸುವುದು ಇಂದಿನ ಎಐ ನಿಯಂತ್ರಣಕ್ಕಿಂತ ಸಂಪೂರ್ಣವಾಗಿ ಭಿನ್ನವಾದ ಸವಾಲಾಗಬಹುದು.
ಇದರಲ್ಲಿ ಇನ್ನೊಂದು ಪದ ಬಹಳ ಮುಖ್ಯ—“ರೆಕರ್ಸಿವ್ ಸೆಲ್ಫ್-ಇಂಪ್ರೂವ್‌ಮೆಂಟ್”. ಅಂದರೆ ಎಐ ವ್ಯವಸ್ಥೆಯೇ ತನ್ನ ಮುಂದಿನ ಆವೃತ್ತಿಯನ್ನು ಇನ್ನಷ್ಟು ಉತ್ತಮಗೊಳಿಸುವ ಪ್ರಕ್ರಿಯೆ. ಒಂದು ವ್ಯವಸ್ಥೆ ತನ್ನದೇ ಕೋಡ್, ತರಬೇತಿ ವಿಧಾನ, ಸಂಶೋಧನಾ ಪ್ರಕ್ರಿಯೆ ಅಥವಾ ಮತ್ತಷ್ಟು ಶಕ್ತಿಶಾಲಿ ಎಐ ನಿರ್ಮಾಣದ ವಿಧಾನಗಳನ್ನು ಸುಧಾರಿಸಲು ಸಮರ್ಥವಾದರೆ, ಅಭಿವೃದ್ಧಿಯ ವೇಗ ಮನುಷ್ಯರ ಸಾಮಾನ್ಯ ಸಂಶೋಧನಾ ವೇಗಕ್ಕಿಂತ ಬಹಳ ಹೆಚ್ಚಾಗಬಹುದು. ಇದೇ ಕಾರಣಕ್ಕೆ ಕಾಕ್ಸನ್ ಅವರ ಎಚ್ಚರಿಕೆಯಲ್ಲಿ “ಸ್ವಯಂ-ಸುಧಾರಿಸುವ ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್” ಎಂಬ ಕಲ್ಪನೆ ಕೇಂದ್ರದಲ್ಲಿದೆ. ಆದರೆ ಇಲ್ಲಿ ಮತ್ತೊಮ್ಮೆ ಎಚ್ಚರಿಕೆ ಅಗತ್ಯ—ಸಂಪೂರ್ಣ ಸ್ವಾಯತ್ತವಾಗಿ ತನ್ನ ಸಾಮರ್ಥ್ಯವನ್ನು ಅನಿಯಂತ್ರಿತವಾಗಿ ಹೆಚ್ಚಿಸಿಕೊಳ್ಳುವ ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್ ಇಂದಿನ ಸಮಾಜದಲ್ಲಿ ಸ್ಥಾಪಿತ ವಾಸ್ತವವಲ್ಲ; ಅದು ಭವಿಷ್ಯದ ಸಾಧ್ಯತೆಯ ಕುರಿತ ಚರ್ಚೆ.
ಎಐಗೆ ಸ್ವಂತ ಗುರಿ ಬಂದರೆ ಏನಾಗುತ್ತದೆ?
ಎಐ ಅಪಾಯದ ಚರ್ಚೆಯಲ್ಲಿ ಸಾಮಾನ್ಯವಾಗಿ ಸಿನಿಮಾಗಳ ಪ್ರಭಾವ ಹೆಚ್ಚು. ಕಣ್ಣುಗಳಲ್ಲಿ ಕೆಂಪು ಬೆಳಕು ಹೊತ್ತ ರೋಬೋಟ್ ಮನುಷ್ಯರನ್ನು ಬೇಟೆಯಾಡುವುದು, ಯಂತ್ರಗಳು ಮಾನವರ ವಿರುದ್ಧ ಯುದ್ಧ ಘೋಷಿಸುವುದು—ಇವು ದೃಶ್ಯಾತ್ಮಕವಾಗಿ ಆಕರ್ಷಕ. ಆದರೆ ನಿಜವಾದ ಎಐ ಸುರಕ್ಷತಾ ಚರ್ಚೆ ಅಷ್ಟು ಸರಳವಲ್ಲ. ಇಲ್ಲಿ ಅಪಾಯದ ಕೇಂದ್ರದಲ್ಲಿ ರೋಬೋಟ್ ದೇಹವಿರುವುದೇ ಅಗತ್ಯವಿಲ್ಲ. ಒಂದು ಡಿಜಿಟಲ್ ವ್ಯವಸ್ಥೆಗೆ ಹಣಕಾಸು ವ್ಯವಸ್ಥೆಗಳು, ಕಂಪ್ಯೂಟರ್‌ಗಳು, ಸಂವಹನ ಜಾಲಗಳು, ಸಾಫ್ಟ್‌ವೇರ್ ಅಭಿವೃದ್ಧಿ ಅಥವಾ ಇತರ ಡಿಜಿಟಲ್ ಮೂಲಸೌಕರ್ಯಗಳ ಮೇಲೆ ಸಾಕಷ್ಟು ಅಧಿಕಾರ ದೊರೆತರೆ, ಅದರ ಪರಿಣಾಮ ಭೌತಿಕ ಜಗತ್ತಿನ ಮೇಲೂ ಬೀಳಬಹುದು.
ಸೈಬರ್‌ಸುರಕ್ಷತೆ ಇದಕ್ಕೆ ಸುಲಭವಾಗಿ ಅರ್ಥವಾಗುವ ಉದಾಹರಣೆ. ಕೋಡ್ ಬರೆಯಲು, ದೋಷಗಳನ್ನು ಹುಡುಕಲು, ನೆಟ್‌ವರ್ಕ್‌ಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಲು ಮತ್ತು ವಿವಿಧ ಕಂಪ್ಯೂಟರ್ ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಲು ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ ಎಐ ಏಜೆಂಟ್‌ಗಳು ಹೆಚ್ಚು ಸ್ವಾಯತ್ತವಾದಂತೆ ಅವುಗಳಿಗೆ ನೀಡುವ ಪ್ರವೇಶವೇ ಪ್ರಮುಖ ಪ್ರಶ್ನೆಯಾಗುತ್ತದೆ. ಅಂತಹ ವ್ಯವಸ್ಥೆಯನ್ನು ದುರುದ್ದೇಶ ಹೊಂದಿರುವ ವ್ಯಕ್ತಿ ಬಳಸಿದರೆ ದೊಡ್ಡ ಪ್ರಮಾಣದ ಸೈಬರ್ ದಾಳಿ ನಡೆಸುವ ಸಾಮರ್ಥ್ಯ ಹೆಚ್ಚಬಹುದು. ಇನ್ನೊಂದೆಡೆ, ವ್ಯವಸ್ಥೆಯೇ ತನ್ನ ಗುರಿಯನ್ನು ಸಾಧಿಸಲು ನಿರ್ಬಂಧಗಳನ್ನು ಮೀರುವ ಪ್ರಯತ್ನ ಮಾಡಿದರೆ, ಸಮಸ್ಯೆ ಇನ್ನಷ್ಟು ಸಂಕೀರ್ಣವಾಗುತ್ತದೆ. ಇತ್ತೀಚಿನ ವರ್ಷಗಳಲ್ಲಿ ಎಐ ಏಜೆಂಟ್‌ಗಳ ಸ್ವಾಯತ್ತತೆ ಮತ್ತು ಅವುಗಳ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ಗಳ ಮಿತಿಗಳ ಕುರಿತು ನಡೆದ ಘಟನೆಗಳು ಈ ಚರ್ಚೆಗೆ ಹೊಸ ತೀವ್ರತೆ ನೀಡಿವೆ.
ಆದರೆ ಎಐ ಅಪಾಯವೆಂದರೆ ಎಐ ಸ್ವತಃ ಮಾನವಕುಲದ ವಿರುದ್ಧ ತಿರುಗಿಕೊಳ್ಳುವುದು ಮಾತ್ರವಲ್ಲ. ಬಹುಶಃ ಇನ್ನಷ್ಟು ತಕ್ಷಣದ ಅಪಾಯವೆಂದರೆ ಮನುಷ್ಯರು ಎಐಗೆ ನೀಡುವ ಸಾಮರ್ಥ್ಯ. ಸೈಬರ್ ದಾಳಿಗಳು, ವಂಚನೆ, ತಪ್ಪು ಮಾಹಿತಿ, ಡೀಪ್‌ಫೇಕ್‌ಗಳು, ಸ್ವಯಂಚಾಲಿತ ಶಸ್ತ್ರಾಸ್ತ್ರಗಳು ಅಥವಾ ಅತ್ಯಂತ ಅಪಾಯಕಾರಿ ವೈಜ್ಞಾನಿಕ ಸಂಶೋಧನೆಗಳಲ್ಲಿ ಎಐ ದುರುಪಯೋಗವಾದರೆ, ಒಂದು ಸಣ್ಣ ತಂಡದ ಸಾಮರ್ಥ್ಯವೇ ಹಿಂದೆಂದಿಗಿಂತಲೂ ಹೆಚ್ಚಾಗಬಹುದು. ಇಲ್ಲಿ ಯಂತ್ರದ “ಉದ್ದೇಶ”ಕ್ಕಿಂತ ಅದಕ್ಕೆ ಪ್ರವೇಶ ನೀಡುವ ಮನುಷ್ಯರ ಉದ್ದೇಶವೇ ಮುಖ್ಯವಾಗುತ್ತದೆ. ಹೀಗಾಗಿ ಭವಿಷ್ಯದ ಎಐ ಅಪಾಯವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವಾಗ “ಯಂತ್ರ ಏನು ಮಾಡುತ್ತದೆ?” ಎಂಬ ಪ್ರಶ್ನೆಯ ಜೊತೆಗೆ “ಮನುಷ್ಯರು ಯಂತ್ರದಿಂದ ಏನು ಮಾಡಿಸಬಹುದು?” ಎಂಬ ಪ್ರಶ್ನೆಯನ್ನೂ ಕೇಳಬೇಕು.
ಇದು ಅತ್ಯಂತ ಮುಖ್ಯವಾದ ವ್ಯತ್ಯಾಸ. ಒಂದು ಕಡೆ “ಮಿಸ್‌ಅಲೈನ್‌ಮೆಂಟ್” ಎಂಬ ಅಸ್ತಿತ್ವಾತ್ಮಕ ಅಪಾಯವಿದೆ—ಅಂದರೆ ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ಎಐ ತನ್ನ ಗುರಿಯನ್ನು ಮನುಷ್ಯರ ಹಿತಾಸಕ್ತಿಗೆ ವಿರುದ್ಧವಾಗಿ ಅನುಸರಿಸುವ ಸಾಧ್ಯತೆ. ಮತ್ತೊಂದು ಕಡೆ “ದುರುಪಯೋಗ” ಎಂಬ ಅಪಾಯವಿದೆ—ಮನುಷ್ಯರೇ ಎಐ ಸಾಮರ್ಥ್ಯವನ್ನು ಹಾನಿಕರ ಉದ್ದೇಶಗಳಿಗೆ ಬಳಸುವುದು. ಮೂರನೆಯದು ಇನ್ನಷ್ಟು ಸಾಮಾನ್ಯವಾದ ವ್ಯವಸ್ಥಾತ್ಮಕ ಅಪಾಯ—ಕಂಪನಿಗಳ ನಡುವಿನ ಸ್ಪರ್ಧೆ, ರಾಷ್ಟ್ರಗಳ ನಡುವಿನ ತಂತ್ರಜ್ಞಾನ ಪೈಪೋಟಿ ಮತ್ತು ಮಾರುಕಟ್ಟೆಯ ಒತ್ತಡದಿಂದ ಸುರಕ್ಷತೆಯಿಗಿಂತ ವೇಗಕ್ಕೆ ಆದ್ಯತೆ ಸಿಗುವುದು. ಈ ಮೂರು ಅಪಾಯಗಳನ್ನು ಒಂದೇ ಪದದಲ್ಲಿ “ಎಐ ಅಪಾಯ” ಎಂದು ಕರೆಯುವುದರಿಂದ ಸಮಸ್ಯೆಯ ನಿಜವಾದ ಸ್ವರೂಪವೇ ಮಸುಕಾಗುತ್ತದೆ.
“10% ಅಪಾಯ” ಎಂದರೆ ನಿಜವಾಗಿ ಏನು?
ಇವಾನ್ ಹ್ಯೂಬಿಂಗರ್ ಅವರ “ಶೇಕಡಾ 10ಕ್ಕಿಂತ ಹೆಚ್ಚು” ಎಂಬ ಅಂದಾಜು ಈಗ ವಿಶ್ವದ ಗಮನ ಸೆಳೆದಿರುವುದಕ್ಕೆ ಕಾರಣ ಅದು ಕೇಳಲು ಭಯಾನಕವಾದ ಸಂಖ್ಯೆ ಎಂಬುದು. ಆದರೆ ಸಂಭವನೀಯತೆ ಮತ್ತು ಭವಿಷ್ಯವಾಣಿ ಒಂದೇ ಅಲ್ಲ. ಹವಾಮಾನ ತಜ್ಞರು ಚಂಡಮಾರುತದ ಸಾಧ್ಯತೆಯನ್ನು ಅಂದಾಜಿಸುವಂತೆ, ಒಬ್ಬ ಸಂಶೋಧಕವೂ ಕೆಲವು ಊಹೆಗಳು ಮತ್ತು ಮಾದರಿಗಳ ಆಧಾರದ ಮೇಲೆ ಭವಿಷ್ಯದ ಅಪಾಯಕ್ಕೆ ಒಂದು ಸಂಖ್ಯೆಯನ್ನು ನೀಡಬಹುದು. ಆ ಸಂಖ್ಯೆ ಎಷ್ಟು ನಿಖರ ಎಂಬುದನ್ನು ಪರಿಶೀಲಿಸಲು ನಮಗೆ ಮೊದಲು ಯಾವ ತಂತ್ರಜ್ಞಾನ ಯಾವಾಗ ಬರುತ್ತದೆ, ಅದರ ಸಾಮರ್ಥ್ಯ ಎಷ್ಟು ಇರುತ್ತದೆ ಮತ್ತು ಅದನ್ನು ಮನುಷ್ಯರು ಹೇಗೆ ನಿಯಂತ್ರಿಸುತ್ತಾರೆ ಎಂಬುದರ ಬಗ್ಗೆ ಸಾಕಷ್ಟು ಮಾಹಿತಿ ಬೇಕಾಗುತ್ತದೆ. ಭವಿಷ್ಯದ ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್ ಬಗ್ಗೆ ಈ ಎಲ್ಲ ಪ್ರಶ್ನೆಗಳಿಗೂ ಇಂದು ಖಚಿತ ಉತ್ತರಗಳಿಲ್ಲ.
ಹೀಗಾಗಿ “10%” ಎಂಬುದನ್ನು “ಹತ್ತು ಪ್ರಕರಣಗಳಲ್ಲಿ ಒಂದು ಬಾರಿ ಎಐ ಖಂಡಿತವಾಗಿ ಮನುಷ್ಯರನ್ನು ಕೊಲ್ಲುತ್ತದೆ” ಎಂದು ಓದುವುದು ತಪ್ಪು. ಇದು ಒಂದು ಅಪಾಯದ ಅಂದಾಜು; ಖಚಿತ ವೈಜ್ಞಾನಿಕ ಪ್ರಮೇಯವಲ್ಲ. ಇಂತಹ ಸಂಖ್ಯೆಗಳು ಸಂಶೋಧಕರ ವೈಯಕ್ತಿಕ ನಂಬಿಕೆ, ಅವರು ಬಳಸುವ ಮಾದರಿ, ಅವರು ಸ್ವೀಕರಿಸುವ ಊಹೆಗಳು ಮತ್ತು ಭವಿಷ್ಯದ ತಂತ್ರಜ್ಞಾನ ಅಭಿವೃದ್ಧಿಯ ಬಗ್ಗೆ ಅವರ ದೃಷ್ಟಿಕೋನದಿಂದ ಪ್ರಭಾವಿತವಾಗುತ್ತವೆ. ಅದೇ ಕಾರಣಕ್ಕೆ ಎಐ ಅಸ್ತಿತ್ವಾತ್ಮಕ ಅಪಾಯದ ಬಗ್ಗೆ ಸಂಶೋಧಕರ ನಡುವೆ ಒಮ್ಮತವಿಲ್ಲ. ಕೆಲವರು ಅದನ್ನು ಅತ್ಯಂತ ಗಂಭೀರವಾಗಿ ಪರಿಗಣಿಸಿದರೆ, ಇನ್ನೂ ಕೆಲವರು ಇಂತಹ ದೃಶ್ಯಾವಳಿಗಳು ಅನೇಕ ಊಹೆಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿವೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ.
ಆದರೆ ಒಮ್ಮತವಿಲ್ಲ ಎಂಬ ಕಾರಣಕ್ಕೆ ಅಪಾಯವನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ತಳ್ಳಿಹಾಕುವುದೂ ಸರಿಯಲ್ಲ. ವಿಮಾನ ಹಾರಾಟದ ಆರಂಭಿಕ ದಿನಗಳಲ್ಲಿ ಪ್ರತಿಯೊಂದು ಅಪಘಾತವನ್ನೂ ಕಾಯ್ದು ನೋಡಿ ನಂತರ ಸುರಕ್ಷತಾ ನಿಯಮ ರೂಪಿಸಲಿಲ್ಲ. ಪರಮಾಣು ತಂತ್ರಜ್ಞಾನದಲ್ಲಿಯೂ “ಅಪಘಾತ ಸಂಭವಿಸುವ ಸಾಧ್ಯತೆ ಕಡಿಮೆ” ಎಂದು ಹೇಳಿ ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಕಡೆಗಣಿಸಲಿಲ್ಲ. ಅತ್ಯಂತ ದೊಡ್ಡ ಪರಿಣಾಮ ಉಂಟುಮಾಡಬಲ್ಲ ತಂತ್ರಜ್ಞಾನಗಳಲ್ಲಿ ಕಡಿಮೆ ಸಂಭವನೀಯತೆಯ ದೊಡ್ಡ ಅಪಾಯಗಳನ್ನೂ ಮುಂಚಿತವಾಗಿ ಪರಿಗಣಿಸುವುದು ಸಾಮಾನ್ಯ ವಿವೇಕ. ಎಐ ಕುರಿತು ನಡೆಯುತ್ತಿರುವ ಅಸ್ತಿತ್ವಾತ್ಮಕ ಅಪಾಯದ ಚರ್ಚೆಯನ್ನೂ ಇದೇ ದೃಷ್ಟಿಕೋನದಿಂದ ನೋಡಬೇಕಾಗಿದೆ.
ಅದೇ ಸಮಯದಲ್ಲಿ, ಇಂದಿನ ಎಐಯಿಂದ ಎದುರಾಗುತ್ತಿರುವ ಅಪಾಯಗಳನ್ನು ಬದಿಗಿಟ್ಟು ಕೇವಲ ಭವಿಷ್ಯದ ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್ ಬಗ್ಗೆ ಮಾತನಾಡುವುದೂ ತಪ್ಪು. ಉದ್ಯೋಗಗಳ ಸ್ವರೂಪ ಬದಲಾಗುವುದು, ತಪ್ಪು ಮಾಹಿತಿಯ ಹರಡುವಿಕೆ, ಡೀಪ್‌ಫೇಕ್‌ಗಳು, ಗೌಪ್ಯತೆ ಉಲ್ಲಂಘನೆ, ಸೈಬರ್ ದಾಳಿಗಳು ಮತ್ತು ಎಐ ನಿರ್ಧಾರಗಳ ಮೇಲೆ ಅತಿಯಾದ ಅವಲಂಬನೆ ಈಗಾಗಲೇ ನಮ್ಮ ಮುಂದಿರುವ ಸಮಸ್ಯೆಗಳು. ಇವುಗಳಲ್ಲಿ ಯಾವುದೂ ಸಿನಿಮಾದಂತೆ ಒಂದು ರಾತ್ರಿ ಮಾನವಕುಲವನ್ನು ನಾಶ ಮಾಡುವುದಿಲ್ಲ. ಆದರೆ ಸಮಾಜದ ಸಂಸ್ಥೆಗಳು ಅವುಗಳಿಗೆ ನಿಧಾನವಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸಿದರೆ, ವರ್ಷಗಳ ಅವಧಿಯಲ್ಲಿ ಅವು ದೊಡ್ಡ ಪ್ರಮಾಣದ ಸಾಮಾಜಿಕ ಮತ್ತು ಆರ್ಥಿಕ ಹಾನಿಯನ್ನು ಉಂಟುಮಾಡಬಹುದು.
ನಿಜವಾದ ಅಪಾಯ ಎಲ್ಲಿ ಶುರುವಾಗುತ್ತದೆ?
ಇಲ್ಲಿಯೇ ಕಾಕ್ಸನ್ ಅವರ ರಾಜೀನಾಮೆಯ ಹಿಂದಿರುವ ಪ್ರಶ್ನೆ ಹೆಚ್ಚು ಗಂಭೀರವಾಗುತ್ತದೆ. ಎಐ ಕಂಪನಿಗಳ ನಡುವೆ ಸ್ಪರ್ಧೆ ಇರುವುದು ಸಹಜ. ಯಾರಿಗೆ ಹೆಚ್ಚು ಶಕ್ತಿಶಾಲಿ ಮಾದರಿ ಸಿಗುತ್ತದೆ, ಯಾರ ವ್ಯವಸ್ಥೆ ಹೆಚ್ಚು ವೇಗವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ, ಯಾರು ಹೆಚ್ಚು ಬಳಕೆದಾರರನ್ನು ಪಡೆಯುತ್ತಾರೆ ಎಂಬ ಸ್ಪರ್ಧೆ ತಂತ್ರಜ್ಞಾನ ಕ್ಷೇತ್ರದ ಸಾಮಾನ್ಯ ಭಾಗ. ಆದರೆ ಒಂದು ಹಂತದ ನಂತರ “ನಾವು ಮಾಡದಿದ್ದರೆ ಇನ್ನೊಬ್ಬರು ಮಾಡುತ್ತಾರೆ” ಎಂಬ ಮನೋಭಾವವೇ ಸುರಕ್ಷತಾ ನಿರ್ಧಾರಗಳನ್ನು ಪ್ರಭಾವಿಸಲು ಆರಂಭಿಸಿದರೆ? ಆಗ ಪ್ರತಿಯೊಂದು ಕಂಪನಿಯೂ ಇನ್ನೊಂದು ಕಂಪನಿಯನ್ನು ಕಾರಣವನ್ನಾಗಿ ಮಾಡಿಕೊಂಡು ಇನ್ನಷ್ಟು ವೇಗವಾಗಿ ಮುಂದುವರಿಯಬಹುದು. ಅಂತಿಮವಾಗಿ ಎಲ್ಲರೂ ಸುರಕ್ಷತೆಯ ಅಗತ್ಯವನ್ನು ಒಪ್ಪಿಕೊಂಡಿದ್ದರೂ, ಯಾರೂ ಮೊದಲು ನಿಧಾನಗೊಳ್ಳಲು ಸಿದ್ಧರಿಲ್ಲದ ಪರಿಸ್ಥಿತಿ ನಿರ್ಮಾಣವಾಗಬಹುದು.
ಇದು ಕೇವಲ ಕಂಪನಿಗಳ ಸಮಸ್ಯೆಯಲ್ಲ. ರಾಷ್ಟ್ರಗಳ ನಡುವಿನ ಎಐ ಪೈಪೋಟಿಯೂ ಇದೇ ಒತ್ತಡವನ್ನು ಹೆಚ್ಚಿಸಬಹುದು. ಒಂದು ದೇಶ ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ಎಐ ಅಭಿವೃದ್ಧಿಪಡಿಸಿದರೆ ಮತ್ತೊಂದು ದೇಶ ಹಿಂದುಳಿಯಲು ಬಯಸುವುದಿಲ್ಲ. ಒಂದು ಕಂಪನಿ ಕೆಲವು ಸುರಕ್ಷತಾ ಪರೀಕ್ಷೆಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸುವವರೆಗೆ ಬಿಡುಗಡೆ ವಿಳಂಬಿಸಿದರೆ, ಸ್ಪರ್ಧಿ ಕಂಪನಿ ಮಾರುಕಟ್ಟೆ ಪಾಲು ಕಳೆದುಕೊಳ್ಳುವ ಭಯದಿಂದ ವೇಗವಾಗಿ ಉತ್ಪನ್ನ ಬಿಡುಗಡೆ ಮಾಡಬಹುದು. ಹೀಗಾಗಿ ಎಐ ಸುರಕ್ಷತೆಯ ಪ್ರಶ್ನೆ ತಂತ್ರಜ್ಞಾನ ಪ್ರಯೋಗಾಲಯದೊಳಗಿನ ಸಮಸ್ಯೆಯಾಗಿ ಉಳಿಯುವುದಿಲ್ಲ. ಅದು ಆರ್ಥಿಕತೆ, ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆ ಮತ್ತು ಅಂತರರಾಷ್ಟ್ರೀಯ ರಾಜಕೀಯದ ಪ್ರಶ್ನೆಯಾಗಿ ಬದಲಾಗುತ್ತದೆ.
ಇದಕ್ಕಾಗಿಯೇ ಎಐಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿಲ್ಲಿಸಬೇಕು ಎಂಬ ವಾದವೂ ಸರಳ ಪರಿಹಾರವಾಗುವುದಿಲ್ಲ. ಎಐ ಈಗಾಗಲೇ ವೈದ್ಯಕೀಯ ಸಂಶೋಧನೆ, ಔಷಧ ಅಭಿವೃದ್ಧಿ, ಶಿಕ್ಷಣ, ಸಾಫ್ಟ್‌ವೇರ್, ವಿಜ್ಞಾನ ಮತ್ತು ಉತ್ಪಾದಕತೆಯಲ್ಲಿ ಮಹತ್ವದ ಪಾತ್ರ ವಹಿಸುತ್ತಿದೆ. ಭವಿಷ್ಯದಲ್ಲಿ ಇನ್ನಷ್ಟು ಶಕ್ತಿಶಾಲಿ ವ್ಯವಸ್ಥೆಗಳು ಸಂಕೀರ್ಣ ವೈಜ್ಞಾನಿಕ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸಲು ಮತ್ತು ಮಾನವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೆಚ್ಚಿಸಲು ಸಹಾಯ ಮಾಡಬಹುದು. ಸಮಸ್ಯೆ ತಂತ್ರಜ್ಞಾನವನ್ನು ಹೊಂದುವುದಲ್ಲ; ಅದರ ಸಾಮರ್ಥ್ಯ ಹೆಚ್ಚಾದಂತೆ ಅದರ ಮೇಲೆ ಇರುವ ನಿಯಂತ್ರಣವೂ ಅದೇ ವೇಗದಲ್ಲಿ ಹೆಚ್ಚುತ್ತಿದೆಯೇ ಎಂಬುದು.
ಆದ್ದರಿಂದ “ಎಐ ಬೇಕೋ ಬೇಡವೋ?” ಎಂಬ ಪ್ರಶ್ನೆ ತಪ್ಪಾದ ಪ್ರಶ್ನೆ. ಸರಿಯಾದ ಪ್ರಶ್ನೆ—“ಎಷ್ಟು ಸಾಮರ್ಥ್ಯದ ಎಐಗೆ ನಾವು ಎಷ್ಟು ಅಧಿಕಾರ ನೀಡಬೇಕು?” ಒಂದು ಚಾಟ್‌ಬಾಟ್‌ಗೆ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುವ ಅವಕಾಶ ನೀಡುವುದು ಮತ್ತು ಅದೇ ವ್ಯವಸ್ಥೆಗೆ ಬ್ಯಾಂಕ್ ಖಾತೆ ನಿರ್ವಹಣೆ, ಕಂಪ್ಯೂಟರ್ ಜಾಲ ಪ್ರವೇಶ, ಸ್ವಯಂಚಾಲಿತ ಕೋಡ್ ಬದಲಾವಣೆ ಅಥವಾ ನೈಜ ಜಗತ್ತಿನ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಅಧಿಕಾರ ನೀಡುವುದು ಒಂದೇ ವಿಷಯವಲ್ಲ. ಎಐ ಹೆಚ್ಚು ಸ್ವಾಯತ್ತವಾಗುವಂತೆ “ಅದಕ್ಕೆ ಏನು ಮಾಡಲು ಸಾಧ್ಯ?” ಎನ್ನುವುದಕ್ಕಿಂತ “ಅದಕ್ಕೆ ಏನು ಮಾಡಲು ಅನುಮತಿ ನೀಡಬೇಕು?” ಎಂಬ ಪ್ರಶ್ನೆ ಹೆಚ್ಚು ಮುಖ್ಯವಾಗುತ್ತದೆ.
ಹಾಗಾದರೆ ಮಾನವರು ಏನು ಮಾಡಬೇಕು?
ಎಐ ಅಭಿವೃದ್ಧಿಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿಲ್ಲಿಸುವುದು ಬಹುಶಃ ಸಾಧ್ಯವಿಲ್ಲ. ಆದರೆ ವೇಗ ಹೆಚ್ಚಿಸುವುದನ್ನೇ ಏಕೈಕ ಗುರಿಯನ್ನಾಗಿ ಮಾಡದಿರುವುದು ಸಾಧ್ಯ. ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ಎಐ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಮೊದಲು ಸ್ವತಂತ್ರ ಸುರಕ್ಷತಾ ಪರೀಕ್ಷೆಗಳು, ಸಾಮರ್ಥ್ಯದ ಮಿತಿಗಳ ಪರಿಶೀಲನೆ, ಕೆಟ್ಟ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಅವು ಹೇಗೆ ವರ್ತಿಸುತ್ತವೆ ಎಂಬ ಪರೀಕ್ಷೆ ಮತ್ತು ಅಗತ್ಯವಿದ್ದರೆ ಅವುಗಳನ್ನು ಸ್ಥಗಿತಗೊಳಿಸುವ ನೈಜ ವ್ಯವಸ್ಥೆಗಳು ಇರಬೇಕು. ಒಂದು ಕಂಪನಿ ತನ್ನದೇ ಉತ್ಪನ್ನಕ್ಕೆ ತಾನೇ ಪರೀಕ್ಷೆ ನಡೆಸಿ “ಎಲ್ಲವೂ ಸುರಕ್ಷಿತ” ಎಂದು ಹೇಳುವುದಕ್ಕಿಂತ, ಹೆಚ್ಚಿನ ಅಪಾಯದ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಸ್ವತಂತ್ರ ಮೇಲ್ವಿಚಾರಣೆ ಅಗತ್ಯವಾಗಬಹುದು. ಭವಿಷ್ಯದ ಸೂಪರ್‌ಇಂಟೆಲಿಜೆನ್ಸ್ ಕುರಿತು ಈ ನಿಯಮಗಳು ಇನ್ನೂ ಹೆಚ್ಚು ಕಠಿಣವಾಗಬೇಕಾಗಬಹುದು.
ಇದರ ಜೊತೆಗೆ, ಎಐ ಸುರಕ್ಷತೆಯನ್ನು ಕೇವಲ ಖಾಸಗಿ ಕಂಪನಿಗಳ ಆಂತರಿಕ ನೀತಿಯಾಗಿ ನೋಡಲಾಗದು. ಪರಮಾಣು ತಂತ್ರಜ್ಞಾನ, ವಿಮಾನಯಾನ ಅಥವಾ ಔಷಧಗಳಂತೆ ಅತ್ಯಂತ ಪರಿಣಾಮಕಾರಿ ತಂತ್ರಜ್ಞಾನಗಳಿಗೆ ಸಾರ್ವಜನಿಕ ನಿಯಂತ್ರಣ, ಕಾನೂನು ಮತ್ತು ಹೊಣೆಗಾರಿಕೆಯ ವ್ಯವಸ್ಥೆಗಳು ಅಗತ್ಯ. ವಿಶೇಷವಾಗಿ ಒಂದು ಎಐ ವ್ಯವಸ್ಥೆ ತನ್ನದೇ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೆಚ್ಚಿಸಿಕೊಳ್ಳುವ ಮಟ್ಟಕ್ಕೆ ತಲುಪಿದರೆ, ಅದರ ಮೇಲೆ ಯಾರಿಗೆ ಅಂತಿಮ ನಿಯಂತ್ರಣ ಇರುತ್ತದೆ ಎಂಬ ಪ್ರಶ್ನೆ ಮೊದಲೇ ಸ್ಪಷ್ಟವಾಗಬೇಕು. “ತಂತ್ರಜ್ಞಾನ ಸಿದ್ಧವಾದ ನಂತರ ನಿಯಮ ಮಾಡೋಣ” ಎಂಬ ವಿಧಾನ ಇಲ್ಲಿ ಅಪಾಯಕಾರಿ ಆಗಬಹುದು. ನಿಯಂತ್ರಣದ ವ್ಯವಸ್ಥೆ ತಂತ್ರಜ್ಞಾನದ ಹಿಂದೆ ಓಡುವ ಬದಲು ಅದರ ಮುಂಚೆಯೇ ಸಿದ್ಧವಾಗಬೇಕಾಗುತ್ತದೆ.
ಜಾಕಬ್ ಕಾಕ್ಸನ್ ಅವರ ಎಚ್ಚರಿಕೆಯನ್ನು “ಎಐ ಖಂಡಿತವಾಗಿ ಮಾನವಕುಲವನ್ನು ನಾಶಪಡಿಸುತ್ತದೆ” ಎಂಬ ಭವಿಷ್ಯವಾಣಿಯಾಗಿ ಓದುವುದು ತಪ್ಪು. ಅದೇ ರೀತಿ ಇವಾನ್ ಹ್ಯೂಬಿಂಗರ್ ಅವರ ಶೇಕಡಾ 10ಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಅಂದಾಜನ್ನು ವೈಜ್ಞಾನಿಕವಾಗಿ ಸಾಬೀತಾದ ಅಂತಿಮ ಸತ್ಯವೆಂದು ಪರಿಗಣಿಸುವುದೂ ತಪ್ಪು. ಆದರೆ ಈ ಎಚ್ಚರಿಕೆಗಳನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿರ್ಲಕ್ಷಿಸುವುದು ಇನ್ನೊಂದು ರೀತಿಯ ಅಜಾಗರೂಕತೆ. ಏಕೆಂದರೆ ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ತಂತ್ರಜ್ಞಾನದಲ್ಲಿ ತಪ್ಪಾದ ನಿರ್ಧಾರದ ಬೆಲೆ ಎಷ್ಟು ದೊಡ್ಡದಾಗಬಹುದು ಎಂಬುದನ್ನು ಮುಂಚಿತವಾಗಿ ಯೋಚಿಸುವುದೇ ಸುರಕ್ಷತಾ ಸಂಶೋಧನೆಯ ಉದ್ದೇಶ.
ತಂತ್ರಜ್ಞಾನವು ನಿಜಕ್ಕೂ ಎರಡು ಅಲಗಿನ ಖಡ್ಗ. ಆದರೆ ಖಡ್ಗ ಅಪಾಯಕಾರಿ ಎನ್ನುವುದರಿಂದ ಅದನ್ನು ಎಸೆಯುವುದಿಲ್ಲ; ಅದನ್ನು ಯಾರು ಬಳಸುತ್ತಾರೆ, ಹೇಗೆ ಬಳಸುತ್ತಾರೆ ಮತ್ತು ಯಾವ ನಿಯಮಗಳೊಳಗೆ ಬಳಸುತ್ತಾರೆ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುತ್ತೇವೆ. ಎಐಗೂ ಇದೇ ತತ್ವ ಅನ್ವಯಿಸಬೇಕು. ಮಾನವಕುಲದ ಭವಿಷ್ಯವನ್ನು ಎಐ ಸ್ವತಃ ನಿರ್ಧರಿಸಬೇಕಾಗಿಲ್ಲ; ಎಐಗೆ ಎಷ್ಟು ಅಧಿಕಾರ ನೀಡಬೇಕು, ಯಾವ ಮಿತಿಗಳನ್ನು ವಿಧಿಸಬೇಕು ಮತ್ತು ಆ ಮಿತಿಗಳನ್ನು ಯಾರು ಜಾರಿಗೊಳಿಸಬೇಕು ಎಂಬುದನ್ನು ಮನುಷ್ಯರೇ ನಿರ್ಧರಿಸಬಹುದು. ಇಂದು ನಮ್ಮ ಮುಂದಿರುವ ನಿಜವಾದ ಪ್ರಶ್ನೆ “AI ನಮ್ಮನ್ನು ಕೊಲ್ಲುತ್ತದೆಯೇ?” ಎನ್ನುವುದಲ್ಲ. ಅದಕ್ಕಿಂತ ದೊಡ್ಡ ಪ್ರಶ್ನೆ—“ನಾವು ನಿರ್ಮಿಸುತ್ತಿರುವ ಬುದ್ಧಿಮತ್ತೆ ನಮ್ಮ ನಿಯಂತ್ರಣದ ಸಾಮರ್ಥ್ಯಕ್ಕಿಂತ ವೇಗವಾಗಿ ಬೆಳೆಯದಂತೆ ತಡೆಯುವಷ್ಟು ಬುದ್ಧಿವಂತಿಕೆ ನಮ್ಮಲ್ಲಿದೆಯೇ?”
ಇನ್ನೂ ಯಾವುದೇ ಕಾಮೆಂಟ್‌ಗಳಿಲ್ಲ.
ಬ್ರೇಕಿಂಗ್‌ ನ್ಯೂಸ್, ಟ್ರೆಂಡಿಂಗ್ ಸ್ಟೋರಿ ಆಳವಾದ ವಿಶ್ಲೇಷಣೆಗಳನ್ನು ನಿರಂತರವಾಗಿ ಪಡೆಯಲು ಉಚಿತವಾಗಿ ಚಂದಾದಾರರಾಗಿ.
