ChatGPT的出現，讓許多業界人士受惠，但美國紐約州一名律師，不僅使用ChatGPT「幫忙撰寫訴狀」，還沒發現內容有6起根本不存在的法律案件。該名律師的行為被揭發後，與同事面臨紀律處分。
綜合外媒報導，律師事務所「Levidow, Levidow & Oberman」接受一名男子對哥倫比亞航空公司提告人身傷害罪的委託，並由杜洛卡（Peter LoDuca）擔任原告律師，杜洛卡再把相關研究，交給超過30年資歷的律師施瓦茨（Steven A Schwartz）處理。
然而，航空公司的法律團隊檢視原告律師方的文件時，卻發現文件所引用的多個判例根本不存在，並向法官報告此事。法官檢查與確認文件有6起不存在的案件後，要求原告律師團隊說明，施瓦茨這才坦承使用ChatGPT尋找類似案例。
從施瓦茨提交的對話截圖，可見他多次向AI確認這些案件是否存在，並得到肯定與能從萬律（Westlaw）與律商聯訊（LexisNexis）等法律資料庫找到的回覆。法官卡斯特爾（Judge Castel）直言，這是「前所未有的情況」，而施瓦茨等人將在6月8日出席聽證會並面臨紀律處分。
