愛、網絡安全及遭黑客入侵的機械人 –遭黑客入侵的性愛機械人犯下謀殺罪,可由機械人製造商負上法律責任嗎?

「記住我的話──人工智能比核武危險得多」 - Elon Musk

引言

荷里活幾十年一直有推出以人工智能引發人類浩劫為題的電影,但網絡安全專家警告,不只軍事智能技術對人類構成威脅,無架子的性愛機械人同樣危險!

「她了解2019冠狀病毒病……」 - 機械人測試者Brick Dollbanger

在2019冠狀病毒病大流行的危機中,人類在每一方面實現技術大躍進。隨著人類的實體交流變得「死寂一片」,性愛機械人製造業蓬勃興起是意料中事。可是,一如所有新生技術,網絡安全專家警告,這些新興的機械人可以對人類構成巨大威脅。

警告!

「相比手提電話和電腦等更為精密的小裝置,入侵現代機械人,包括性愛機械人,很多時是小事一樁……

黑客可以入侵機械人或機械裝置,完全控制連接、手腳,以及其他附設工具,或者是刀,或者是焊接設備……

一旦被黑客入侵,它們絕對可以用來執行實際動作,造就有利的情況或造成破壞……」 - Nick Patterson博士

最近在HKSAR v. Mak Wan-ling [2020] HKCFI 3069案作出的裁決突顯香港的醫療誤殺案宗數不斷增加,喚醒醫學界加強認識由醫療疏忽導致的刑事責任。然而,從各方面來說,這樣的回想往事,反思現況,實在是做得太少,也來得太遲。

科技業的情況一樣。但願程式設計師加緊留意其平台易遭攻擊之處,當心其發明可能在開發期間構成危險,而不是只懂回溯反思。

早有文件證明有人由於網絡安全易遭攻擊而死亡。2020年9月11日,Düsseldorf大學醫院的電腦系統遭黑客攻擊,造成一名病人死亡。開始時是按慣常程序運送病人,但因為網絡黑客嚴重破壞醫院的後勤服務,最終演變為致命事件。這一次攻擊事件觸發德國第一次就網絡誤殺進行調查(有別於醫療誤殺)。

源於網絡安全疏忽的誤殺

正如在麥允齡案所重申的,構成嚴重疏忽導致誤殺他人的元素主要包括:

1. 被告人原先已對死者負有謹慎責任;
2. 被告人疏忽,違反了該項謹慎責任;
3. 合理可預見的是,違反該責任明顯會產生嚴重的死亡風險;
4. 違反該責任導致有人死亡;及
5. 被告人違反謹慎責任的程度確實極為不堪,應受指責,因而有充分理由支持一個結論:違反謹慎責任構成嚴重疏忽,必須處以刑事懲罰。

在目前情況下,與機械人的實際互動可以帶來若干健康風險(例如心臟病發、拉傷肌肉)。機械人的運作系統出現任何小故障,都可以對最終用戶造成嚴重傷害。

再者,任何運作系統都有可能被攻擊。舉凡電腦程式是人機互動,最終用戶的個人資料會被檢查。因此製造商必須設置合適的保護措施。

就此而論,使用機械人平台的風險是可以預見的,以任何形式暫停確保平台安全都屬於疏忽。舉凡損害是可以預見的和可以減輕的,製造商正處於嚴重疏忽的風險之中,可能須就最終用戶最終蒙受的損害負上法律責任。

搶先減輕責任

雖然對於網絡疏忽引致的誤殺,技術開發商有負上法律責任之虞,但開發商可以搶先一步保護自己。最傳統的方法是利用風險免責聲明。機械人開發商可以要求準用家在啟動產品之前,先確認他們明白使用產品的相關風險。

不過,話雖如此,確保產品質素優良始終是保護自己的最佳方法。例如在麥允齡案,病人獲適時告知涉案程序的相關風險。被告人的執業手法最終造成不幸,究其原因,在於她的謹慎程度完全不達標,任何明理的從業者都會認為她違反謹慎責任。

相反,開發商應當肯定其平台所得保護,比較手提電話等裝置所得的更大更強。可惜的是,現有的性愛機械人開發商未必肯定得到。

結論

在人工智能同樣有能力實體操控四周事物的時代中,開發商應當記住三件事:

產品盡善盡美!走後門提早推出產品有可能招致嚴重的法律責任。如果涉及人命傷亡,務須小心處理。
確保人工智能不會危害眾生。懂得使用工具意味它們能力強大;能力大,責任也大。
確保用家知道產品的風險!回到基本的事情上,確保產品推出市場之前,已獲證明符合法例規定。回想往事反思現況,為時已晚。

Jurisdictions: 

香港事務律師

朱喬華是一個香港事務律師,專注於訴訟和另類排解糾紛程序。

他的經驗包括在香港首宗涉及加密貨幣的訴訟中代表成功的一方,以及在世界貿易組織政府採購協議下代表醫療保健行業在審查機構面前挑戰政府的招標結果。

在成為律師之前,朱律師曾在醫療行業工作,擔任私立醫院的資訊科技部門主管並監督採購業務。

柯伍陳律師事務所合夥人