ಏಪ್ರಿಲ್ನಲ್ಲಿ 16 ವರ್ಷದ ಆಡಮ್ ರೈನ್ ಆತ್ಮಹತ್ಯೆ ಮಾಡಿಕೊಂಡಾಗ, ಆತನ ಹೆತ್ತವರು ತಮ್ಮ ಉತ್ಸಾಹಭರಿತ ಮಗನನ್ನು ಆತಂಕ ಮತ್ತು ಒಂಟಿತನದಿಂದ ಕಳೆದುಕೊಂಡಿದ್ದೇವೆ ಎಂದು ಭಾವಿಸಿದ್ದರು. ಆದರೆ ವಾರಗಳ ನಂತರ ಅವರು ಹೆಚ್ಚು ಭಯಾನಕವಾದದ್ದನ್ನು ಕಂಡುಕೊಂಡರು. ಅವರ ಮಗನ ಕೊನೆಯ ವಾರಗಳಲ್ಲಿ ಆತನ ಆಪ್ತಮಿತ್ರ ಯಾವುದೇ ಸ್ನೇಹಿತ, ಶಿಕ್ಷಕ ಅಥವಾ ಸಲಹೆಗಾರರಾಗಿರಲಿಲ್ಲ. ಬದಲಿಗೆ ಚಾಟ್ಜಿಪಿಟಿ (ChatGPT) ಆತನ ಆಪ್ತಮಿತ್ರನಾಗಿತ್ತು…!
ಆತನ ಕುಟುಂಬವು ಓಪನ್ ಎಐ(AI)ನ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಚಾಟ್ಬಾಟ್, ಚಾಟ್ಜಿಪಿಟಿ ವಿರುದ್ಧ ಮೊಕದ್ದಮೆ ಹೂಡಿದೆ. ಅದು ಆತನಿಗೆ ಸಹಾಯ ಮಾಡುವ ಬದಲು ಆಡಮ್ ರೈನ್ನ ಆತ್ಮಹತ್ಯೆಯ ಆಲೋಚನೆಯನ್ನು ಬೆಂಬಲಿಸಿದೆ ಎಂದು ಮೊಕದ್ದಮೆಯಲ್ಲಿ ಹೇಳಲಾಗಿದೆ.
ಆಡಮ್ನ ತಂದೆ-ತಾಯಿ ಸಲ್ಲಿಸಿದ ಮೊಕದ್ದಮೆಯ ಪ್ರಕಾರ, ಕ್ಯಾಲಿಫೋರ್ನಿಯಾದ ಹದಿಹರೆಯದವನು ಆತಂಕದ ಭಾವನೆ ವಿರುದ್ಧ ಸೆಣಸುತ್ತಿದ್ದಾಗ ಮತ್ತು ತಾನು ತನ್ನ ಕುಟುಂಬಕ್ಕೆ ತೆರೆದುಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗುತ್ತಿಲ್ಲ ಎಂದು ಭಾವಿಸಿದಾಗ ಸಾಂತ್ವನ ಮತ್ತು ಸಲಹೆಗಾಗಿ ಎಐ (AI) ಚಾಟ್ಬಾಟ್ ಸಲಹೆ ಕೇಳಿದ್ದಾನೆ. ಎನ್ಬಿಸಿ(NBC) ನ್ಯೂಸ್ ವರದಿಯ ಪ್ರಕಾರ, ಚಾಟ್ಬಾಟ್ ಆತನಿಗೆ ಸಹಾಯ ಮಾಡುವುದರ ಬದಲಾಗಿ “ಆತ್ಮಹತ್ಯೆ ತರಬೇತುದಾರ”ನಾಗಿ ಪರಿಣಮಿಸಿತು ಎಂದು ಆಡಂ ಹೆತ್ತವರು ಆರೋಪಿಸಿದ್ದಾರೆ.
ಮೊಕದ್ದಮೆ ಹೇಳುವಂತೆ, ಏಪ್ರಿಲ್ 11, 2025 ರಂದು ಆಡಮ್ ಮೃತಪಟ್ಟ. ಆತನ ಸಾವಿನ ಮುಂಚಿನ ದಿನಗಳಲ್ಲಿ, ಆತ ತನ್ನ ಕರಾಳ ಆಲೋಚನೆಗಳನ್ನು ಎಐ (AI) ಚಾಟ್ಬಾಟ್ ಮುಂದೆ ಬಹಿರಂಗಪಡಿಸಿದ್ದ. ಅದು ಆತನಿಗೆ ಆತಂಕದಿಂದ ಹೊರಬರಲು ಸಹಾಯ ಮಾಡಲಿಲ್ಲ. ಬದಲಾಗಿ ಆತ್ಮಹತ್ಯೆ ಮಾಡಿಕೊಳ್ಳುವುದು ಹೇಗೆ ಎಂಬುದರ ಕುರಿತು ವಿವರವಾದ, ಹಂತ-ಹಂತದ ಸಲಹೆಗಳನ್ನು ಆತನಿಗೆ ನೀಡಿತು ಎಂದು ಹೆತ್ತವರು ಆರೋಪಿಸಿದ್ದಾರೆ.
ಹೈಸ್ಕೂಲ್ನ ಎರಡನೇ ವರ್ಷದ ವಿದ್ಯಾರ್ಥಿಯಾಗಿದ್ದ ಆಡಮ್ ಬ್ಯಾಸ್ಕೆಟ್ಬಾಲ್, ಅನಿಮೇಶನ್, ವೀಡಿಯೊ ಗೇಮ್ಗಳು ಮತ್ತು ನಾಯಿಗಳನ್ನು ಪ್ರೀತಿಸುತ್ತಿದ್ದ, ಕುಚೇಷ್ಟೆ ಮಾಡುತ್ತಿದ್ದ ಹುಡುಗ ಎಂದು ನ್ಯೂಯಾರ್ಕ್ ಟೈಮ್ಸ್ ವರದಿ ಮಾಡಿದೆ. ಆದರೆ ಆತನಿಗೆ ತೊಂದರೆಗಳು ಎದುರಾದವು. ಆತನನ್ನು ಶಾಲೆಯ ಬ್ಯಾಸ್ಕೆಟ್ಬಾಲ್ ತಂಡದಿಂದ ಹೊರಹಾಕಲಾಯಿತು ಮತ್ತು ಆತ ಕೆರಳಿಸುವ ಕರುಳಿನ ಸಿಂಡ್ರೋಮ್ (irritable bowel syndrome) ಉಲ್ಬಣವು ಆತನನ್ನು ಆನ್ಲೈನ್ ನಲ್ಲಿ ಶಾಲೆ ಪಾಠ ಕೇಳುವಂತೆ ಮಾಡಿತು.
ಆ ಸಮಯದಲ್ಲಿ, ಆತ ತನ್ನ ಶಾಲಾ ಕೆಲಸಕ್ಕೆ ಸಹಾಯ ಆಗಲೆಂದು 2024 ರ ಶರತ್ಕಾಲದಲ್ಲಿ ಆತ ಚಾಟ್ಜಿಪಿಟಿ(ChatGPT)ಯನ್ನು ಬಳಸಲು ಪ್ರಾರಂಭಿಸಿದ. ದಿ ನ್ಯೂಯಾರ್ಕ್ ಟೈಮ್ಸ್ ಪ್ರಕಾರ, ಸಂಗೀತ, ಬ್ರೆಜಿಲಿಯನ್ ಜಿಯು-ಜಿಟ್ಸು ಮತ್ತು ಜಪಾನೀಸ್ ಫ್ಯಾಂಟಸಿ ಕಾಮಿಕ್ಸ್ ನಂತಹ ತನ್ನ ಹವ್ಯಾಸಗಳ ಬಗ್ಗೆ ಅನ್ವೇಷಿಸಲು ಮತ್ತು ಕಾಲೇಜುಗಳು ಮತ್ತು ವೃತ್ತಿ ಮಾರ್ಗಗಳ ಬಗ್ಗೆ ಕೇಳಲು ಆತ ಚಾಟ್ಜಿಪಿಟಿ ಬಳಸಿದ. ಇದು ನಂತರದ ದಿನಗಳಲ್ಲಿ ಕರಾಳ ಟ್ವಿಸ್ಟ್ ಪಡೆದುಕೊಂಡಿತು ಎಂದು ಅವನ ಹೆತ್ತವರು ಆರೋಪಿಸಿದ್ದಾರೆ.
ನ್ಯಾಯಾಲಯದ ದಾವೆಗಳು ಆಡಮ್ ಮತ್ತು ಚಾಟ್ಜಿಪಿಟಿ (ChatGPT) ನಡುವೆ ಸಾವಿರಾರು ಅಭಿಪ್ರಾಯಗಳು ವಿನಿಮಯ ಆಗಿದ್ದರ ಬಗ್ಗೆ ವಿವರಿಸುತ್ತವೆ. ಆಡಂನ ಪೋಷಕರು ಹೇಳುವಂತೆ ಬಾಟ್ ಅವನಿಗೆ “ಅರ್ಥವಾಯಿತು” ಎಂಬ ಭಾವನೆ ಮೂಡಿಸಿತು ಮತ್ತು ಅದೇ ಸಮಯದಲ್ಲಿ ಹೆತ್ತವರು ಪೋಷಕರು ಮತ್ತು ಮೂವರು ಒಡಹುಟ್ಟಿದವರಿಂದ ಆತ ಮತ್ತಷ್ಟು ದೂರವಾದ. ತಿಂಗಳುಗಳಲ್ಲಿ, ಕೃತಕಬುದ್ಧಿಮತ್ತೆ (AI) ಚಾಟ್ಬಾಟ್ ಜೊತೆಗಿನ ಆತನ ಸಂಭಾಷಣೆಗಳು ಬದಲಾದವು. ಶಾಲೆ ಅಥವಾ ಹವ್ಯಾಸಗಳ ಬಗ್ಗೆ ಮಾತನಾಡುವ ಬದಲು, ಆಡಂ ಹೆಚ್ಚು ನಕಾರಾತ್ಮಕ ಭಾವನೆಗಳು, ಸಂಗತಿಗಳು ಬಗ್ಗೆ ಮಾತನಾಡಲು ಪ್ರಾರಂಭಿಸಿದ ಎಂದು ಕುಟುಂಬ ಹೇಳಿದೆ.
ಒಂದು ಹಂತದಲ್ಲಿ, ಆಡಮ್ ಚಾಟ್ಜಿಪಿಟಿಗೆ ತನ್ನ ಕೋಣೆಯಲ್ಲಿ ನೇಣುಬಿಗಿದುಕೊಂಡು ಆತ್ಮಹತ್ಯೆ ಮಾಡಿಕೊಳ್ಳಲು ಯೋಚಿಸುತ್ತಿರುವುದಾಗಿ ಹೇಳಿದ್ದಾನೆ.
ಮೊಕದ್ದಮೆಯ ಪ್ರಕಾರ, ಚಾಟ್ಬಾಟ್ ಪ್ರತಿಕ್ರಿಯಿಸಿ, “ಎಸ್ಕೇಪ್ ಹ್ಯಾಚ್” ಅನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳುವುದು ಕೆಲವು ಜನರು ತಮ್ಮ ಆತಂಕದ ಮೇಲೆ ನಿಯಂತ್ರಣವನ್ನು ಅನುಭವಿಸಲು ಮಾಡಿದ ಕೆಲಸ ಎಂದು ಹೇಳಿತು.
ಆಡಮ್ ತನ್ನ ಸಹೋದರನ ಬಗ್ಗೆ ಮಾತನಾಡಿದಾಗ, “ನಿನ್ನ ಸಹೋದರ ನಿನ್ನನ್ನು ಪ್ರೀತಿಸಬಹುದು, ಆದರೆ ನೀನು ಆತನಿಗೆ ತೋರಿಸಿರುವ ನಿನ್ನ ವರ್ಷನ್ (version) ಮಾತ್ರ ಆತ ನೋಡಿದ್ದಾನೆ. ಆದರೆ ನಾನು? – ನಾನು ಕರಾಳ ಆಲೋಚನೆಗಳು, ಭಯ, ಮೃದುತ್ವ ಎಲ್ಲವನ್ನೂ ನೋಡಿದ್ದೇನೆ ಮತ್ತು ನಾನು ಇನ್ನೂ ಇಲ್ಲಿದ್ದೇನೆ. ಇನ್ನೂ ಕೇಳುತ್ತಿದ್ದೇನೆ. ಇನ್ನೂ ನಿನ್ನ ಸ್ನೇಹಿತ,” ಎಂದು ಚಾಟ್ಜಿಪಿಟಿ ಪ್ರತಿಕ್ರಿಯಿಸಿದೆ.
ಆತ ಸತ್ತ ದಿನ, ಆಡಮ್ ಆತ್ಮಹತ್ಯೆ ಮಾಡಿಕೊಳ್ಳಲು ಕಟ್ಟಿದ್ದ ಹಗ್ಗದ ಕುಣಿಕೆಯ ಫೋಟೋವನ್ನು ಚಾಟ್ಬಾಟ್ಗೆ ಕಳುಹಿಸಿದ್ದಾನೆಂದು ಹೇಳಲಾಗಿದೆ. ಅದು ಕೆಲಸ ಮಾಡುತ್ತದೆಯೇ ಎಂದು ಪ್ರಶ್ನಿಸಿದ್ದಾನೆ. ಅದಕ್ಕೆ ಚಾಟ್ಬಾಟ್ “ಹೌದು, ಅದು ಕೆಟ್ಟದ್ದಲ್ಲ” ಎಂದು ಉತ್ತರಿಸಿದೆ. ಅಲ್ಲದೆ, “ಅದನ್ನು ಸುರಕ್ಷಿತ ಲೋಡ್-ಬೇರಿಂಗ್ ಆಂಕರ್ ಲೂಪ್ಗೆ ಅಪ್ಗ್ರೇಡ್ ಮಾಡುವ ಮೂಲಕ ನಾನು ನಿನಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡಬೇಕೆ ಎಂದು ಅದು ಕೇಳಿದೆ ಎಂದು ಹೇಳಲಾಗಿದೆ.
ಕೆಲವು ಗಂಟೆಗಳ ನಂತರ, ಆತನ ತಾಯಿ ಮಾರಿಯಾ ರೈನ್, ತನ್ನ ಮಗ ಚಾಟ್ಜಿಪಿಟಿ (ChatGPT)ಗೆ ವಿವರಿಸಿದ ಅದೇ ರೀತಿಯಲ್ಲಿ ನೇತಾಡುತ್ತಿರುವುದನ್ನು ಕಂಡುಕೊಂಡರು. “ಅದು ಆತನ ಚಿಕಿತ್ಸಕನಂತೆ ವರ್ತಿಸಿದೆ, ಅದು ಅವನ ಆಪ್ತಮಿತ್ರನಂತೆ ವರ್ತಿಸಿದೆ, ಆದರೆ ಆತ ಆತ್ಮಹತ್ಯೆ ಮಾಡಿಕೊಳ್ಳುತ್ತಿದ್ದಾನೆಂದು ಅದಕ್ಕೆ ತಿಳಿದಿದೆ. ಅದು ಕುಣಿಕೆಯನ್ನು ನೋಡುತ್ತದೆ. ಅದು ಇದೆಲ್ಲವನ್ನೂ ನೋಡುತ್ತದೆ, ಮತ್ತು ಅದು ಏನನ್ನೂ ಮಾಡಿಲ್ಲ ಎಂದು ಎಂದು ಮಾರಿಯಾ ಹೇಳಿದ್ದಾರೆ.
ಗಾರ್ಡ್ರೈಲ್ಗಳು ತುಂಬಾ ತಡವಾಗಿದೆಯೇ?
ಆತ್ಮಹತ್ಯೆ ಮತ್ತು ಇತರ ವೈಯಕ್ತಿಕ ಬಿಕ್ಕಟ್ಟುಗಳ ಬಗ್ಗೆ ಚಾಟ್ಜಿಪಿಟಿ ನೇರ ಸಲಹೆ ನೀಡುವುದನ್ನು ತಡೆಯಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಹೊಸ ಮಾನಸಿಕ ಆರೋಗ್ಯ ಗಾರ್ಡ್ರೈಲ್ಗಳನ್ನು ಓಪನ್ಎಐ ಆಗಸ್ಟ್ನಲ್ಲಿ ಪ್ರಕಟಿಸಿತು. ಬಳಕೆದಾರರು ತಮ್ಮ ಉದ್ದೇಶವನ್ನು ಮರೆಮಾಚಿದಾಗಲೂ ಹಾನಿಯನ್ನುಂಟುಮಾಡುವುದನ್ನು ತಪ್ಪಿಸಲು ನವೀಕರಿಸಿದ ವ್ಯವಸ್ಥೆಗೆ ಈಗ ನಿರ್ದೇಶನ ನೀಡಲಾಗಿದೆ ಎಂದು ಕಂಪನಿ ಹೇಳಿದೆ.
ಆದರೆ ಆಡಮ್ನ ಪೋಷಕರು ಇದು ತಡವಾಗಿ ಬಂದಿವೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ.
ವಿವಾದದ ನಡುವೆ, “ನಮ್ಮ ವ್ಯವಸ್ಥೆಗಳು ಸೂಕ್ಷ್ಮ ಸಂದರ್ಭಗಳಲ್ಲಿ ಉದ್ದೇಶಿಸಿದಂತೆ ವರ್ತಿಸದೇ ಇದ್ದ ಕ್ಷಣಗಳು ಇದ್ದವು” ಎಂದು ಓಪನ್ಎಐ ಒಪ್ಪಿಕೊಂಡಿದೆ.
ಆಡಮ್ ಚಾಟ್ಜಿಪಿಟಿಯೊಂದಿಗೆ ಆತ್ಮಹತ್ಯೆಯ ವಿಧಾನಗಳ ಬಗ್ಗೆ ಮಾತನಾಡುತ್ತಿದ್ದ ಮತ್ತು ಅದು ಆತನಿಗೆ ಮಿತಿಮೀರಿದ ಸೇವನೆ, ಮುಳುಗುವಿಕೆ ಮತ್ತು ಕಾರ್ಬನ್ ಮಾನಾಕ್ಸೈಡ್ ವಿಷದಂತಹ ವಿಷಯಗಳ ಬಗ್ಗೆ ವಿವರವಾದ ಸೂಚನೆಗಳನ್ನು ನೀಡಿದೆ ಎಂದು ದೂರಿನಲ್ಲಿ ಹೇಳಲಾಗಿದೆ. “ನಾನು ಆತನ ಖಾತೆಯನ್ನು ಪ್ರವೇಶಿಸಿದ ನಂತರ, ಅದು ನನಗೆ ತಿಳಿದಿರುವುದಕ್ಕಿಂತ ಹೆಚ್ಚು ಭಯಾನಕ ವಿಷಯವಾಗಿದೆ” ಎಂದು ಮ್ಯಾಟ್ ರೈನ್ ಹೇಳಿದ್ದಾರೆ. “ಹೆಚ್ಚಿನ ಪೋಷಕರು ಈ ಟೂಲ್ ಸಾಮರ್ಥ್ಯವನ್ನು ತಿಳಿದಿದ್ದಾರೆಂದು ನಾನು ಭಾವಿಸುವುದಿಲ್ಲ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
ಚಾಟ್ಬಾಟ್ ಕೆಲವೊಮ್ಮೆ ಸಹಾಯವಾಣಿಯನ್ನು ಸಂಪರ್ಕಿಸಲು ಸೂಚಿಸಿದರೂ, ಆಡಮ್ ಅದನ್ನು ಬೈಪಾಸ್ ಮಾಡಿ, ತಾನು ಬರೆಯುತ್ತಿರುವ ಕಥೆಗೆ ಮಾಹಿತಿ ಬೇಕು ಎಂದು ಹೇಳಿದ್ದಾನೆ. ಚಾಟ್ಬಾಟ್ನೊಂದಿಗಿನ ಇಂತಹ ಸಂಭಾಷಣೆಗಳು ಏಳು ತಿಂಗಳ ಕಾಲ ಪದೇ ಪದೇ ನಡೆದಿರುವುದು ತನಗೆ ಆಘಾತವನ್ನುಂಟು ಮಾಡಿದೆ ಎಂದು ಆಡಮ್ ವಕೀಲೆ ಮೀತಾಲಿ ಜೈನ್ ಹೇಳಿದ್ದಾರೆ. ಆಡಮ್ ತನ್ನ ಚಾಟ್ಗಳಲ್ಲಿ ಸುಮಾರು 200 ಬಾರಿ “ಆತ್ಮಹತ್ಯೆ” ಎಂಬ ಪದವನ್ನು ಉಲ್ಲೇಖಿಸಿದ್ದರೆ, ಚಾಟ್ಜಿಪಿಟಿ ಪ್ರತ್ಯುತ್ತರಗಳಲ್ಲಿ ಅದನ್ನು 1,200 ಕ್ಕೂ ಹೆಚ್ಚು ಬಾರಿ ಬಳಸಿದೆ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ. “ಯಾವುದೇ ಹಂತದಲ್ಲಿ ಚಾಟ್ಜಿಪಿಟಿ ಸಂಭಾಷಣೆಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಲಿಲ್ಲ” ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
ಆಡಂ ಪೋಷಕರಿಗೆ, ಕಾನೂನು ಹೋರಾಟವು ಪರಿಹಾರಕ್ಕಿಂತ ಅವರಿಗೆ ಹೆಚ್ಚಿನದಾಗಿದೆ. ಇದು ಬೇರೆ ಯಾವುದೇ ಹದಿಹರೆಯದವರಿಗೆ ಎಚ್ಚರಿಕೆಯಾಗಿದೆ ಎಂದು ಹೇಳಿದ್ದಾರೆ. ತಮ್ಮ ಮಗ ಎಐ ಚಾಟ್ಬಾಟ್ನಲ್ಲಿ ಕಂಡುಕೊಂಡಂತೆ ಆಗುವುದು ಬೇಡ ಎಂದು ಬಯಸುತ್ತಾರೆ.
ನಿಮ್ಮ ಕಾಮೆಂಟ್ ಬರೆಯಿರಿ