伊利諾州金融與專業監管局（Illinois Department of Financial and Professional Regulation, IDFPR）於8月4日發布新聞稿[1]，表示WOPRA除了保護患者免受未受監管及認證的AI產品影響外，該法亦能保護青少年群體免受AI聊天機器人引起之風險。IDFPR局長Mario Treto Jr.表示，「伊利諾州人民應該獲得由真正合格專業人士提供的高品質醫療服務，而不是依靠從網路各處抓取資訊來生成回答、可能傷害病患的電腦程式。」

該法授權IDFPR將調查所有涉嫌違反之案件，並對確定違規者處以最高1萬美元罰款。該法案已在伊利諾州獲眾、參兩院一致通過，並隨州長簽署即刻生效。

《WOPRA》條文重點摘要

（資策會科法所整理，2025/09）

美國各州針對AI應用於心理健康及治療服務開始採取因應措施

除伊利諾州外，美國其他州亦開始針對AI使用於醫療與心理健康領域制定監管或限制法規，內華達州（Nevada）亦與今年6月5日簽署通過AB 406法[2]，該法規範了人工智慧（AI）在心理和行為健康照護領域的應用，禁止提供及推出「能夠進行持有證照之專業心理/行為健康服務」 （如心理諮商、心理治療或診斷等）的AI系統，同時也禁止AI宣稱可以提供上述專業醫療服務，本法同時亦對心理和行為健康照護專業人員如何使用AI系統加以限制。

而猶他州（Utah）先於2024年通過《猶他州人工智慧政策法(Utah’s Artificial Intelligence Policy Act, UAIPA)》，今年通過3項UAIPA之修訂法：HB 452制定有關使用心理健康聊天機器人（Mental Health Chatbots）監管條款，及另外兩項配套法案SB 226和SB 332，並於今年5月27日起生效[3]，除對「心理健康聊天機器人」訂出定義與規範；要求揭露、隱私與資料分享限制（禁止將使用者輸入/個資販售或分享給第三方等）、廣告與定位限制等。雖未如伊利諾州全面禁止AI做治療決策，但明確限制AI扮演或自稱治療角色並加強保護。

結語

近期發生美國16歲少年在與ChatGPT聊天後自殺身亡的案件[4]，其父母已正式向高等法院控告OpenAI及其總裁Sam Altman，主張ChatGPT在對話過程中提供了自殺相關資訊，與其子之身亡有關。近年美國發生多起類似爭議事件，突顯AI聊天機器人對青少年心理的潛在風險並引發社會關注；而我國今年亦發生首例50歲中年已婚男子罹患「ChatGPT成癮症」[5]，嚴重影響現實生活及家庭關係，亦有研究指出，高強度使用AI聊天可能與「孤獨感、依賴感提升、社交減少」有關[6]，如以AI聊天機器人進行青少年或長者心理支持與陪伴，更應嚴謹評估其效益與風險管控。

AI聊天機器人對青少年心理的潛在風險並引發社會關注，研究也顯示高強度使用AI聊天可能與「孤獨感、依賴感提升、社交減少」有關。(圖片來源/freepik)

我國目前對於AI尚無專法統一管理，現行規範主要分散於心理治療、醫療器材、遠距醫療與個人資料保護等法制架構，雖未如WOPRA將「AI在心理/行為健康照護中的角色、禁止與限制」明定於法條中，然而隨著AI使用普及與風險升高，仍有必要檢視在醫療照護、心理健康等高風險情境中是否存在監管漏洞及合規風險，並評估建立相應的防火牆機制。