Kung umaasa ka na ang mga chatbot ng AI ay maaaring palitan si Dr. Google, ang pinakabagong eksperimento ng Reddit ay nagmumungkahi... Marahil hindi pa. Ang Reddit Answers, ang AI assistant ng platform, ay gumawa kamakailan ng mga headline para sa pagrekomenda ng heroin bilang isang pain reliever.
Tulad ng iniulat ng 404Media, ang kakaibang payo ay lumabas nang makita ng isang manggagawa sa pangangalagang pangkalusugan ang tugon sa isang subreddit para sa mga moderator. Sa isang pakikipag-ugnayan, itinuro ng chatbot ang post na ito: "Ang heroin, ironically, ay nai-save ang aking buhay sa mga pagkakataong iyon."
Sa isa pang tanong, iminungkahi pa nito ang kratom, isang katas ng puno na ilegal sa maraming mga bansa at na-flag ng FDA "dahil sa panganib ng malubhang masamang kaganapan, kabilang ang pagkalason sa atay, seizures, at karamdaman sa paggamit ng sangkap."
Ang Reddit Answers ay hindi ang iyong karaniwang AI. Sa halip na umasa lamang sa mga na-curate na database, kumukuha ito mula sa malawak na pool ng nilalaman na binuo ng gumagamit ng Reddit. Ginagawa itong kakaiba, kung minsan ay may kaalaman. Ngunit malinaw, hindi palaging ligtas.
Orihinal na nakakulong sa isang hiwalay na tab, Reddit ay sinusubukan ang Mga Sagot sa loob ng regular na pag-uusap, na kung saan ay kung paano ang partikular na episode na ito nagpunta unnoticed... hanggang ngayon. Pagkatapos ng AI chatbot ng Reddit ay nagmumungkahi sa mga gumagamit na subukan ang heroin.
Matapos ang ulat ay naging publiko, tumugon ang Reddit sa pamamagitan ng pagbabawas ng kakayahang makita ng AI sa ilalim ng mga sensitibong chat na may kaugnayan sa kalusugan. Ang mga moderator ay walang kontrol sa payo mismo, na nagha-highlight kung gaano pa rin ka-eksperimento ang tool.
Siyempre, hindi ito ang unang AI hiccup ng Reddit. Ang iba pang mga bot tulad ng Mga Pangkalahatang-ideya ng AI ng Google at ChatGPT ay naghatid din ng kaduda-dudang patnubay sa kalusugan, kabilang ang mga "tip" tulad ng paggamit ng hindi nakakalason na pandikit sa mga pizza upang ihinto ang keso mula sa pagdulas.
Malinaw, pagdating sa medikal na payo, ang mga AI ay nakakaaliw, ngunit ang mga tao pa rin ang may itaas na kamay. Kaya siguro huwag mo nang humingi ng payo sa medikal.
