現在的汽車已成為公路、免下車餐廳、安全帶、導航設備和超級節油的數字儀表板構成的網絡的一部分，其技術不同於100年前的福特T型車。大部分區別來自後續發明，而不是生命力持久的內燃機。同樣，今天的阿司匹林也不再是過去的阿司匹林。考慮到體內存在其他藥物、壽命變化、服藥習慣（每天1片）、價格低廉等因素，它既不是從柳樹皮精華液中提取的民間藥物，也不同於100年前拜耳首先發明的那種合成物，盡管它們本質上都是同一種化學物質——乙酰水楊酸。技術在進步中變化，在使用中改造。隨著它們的傳播，第二級、第三級效用出現了。當它們開始普及時，幾乎總是帶給人們未曾預料到的效用。
另一方麵，大多數誕生初期閃爍偉大光芒的技術理念逐漸淡出人們的視野。少數不幸的理念產生了巨大問題——完全不同於發明者當初的設想。鎮靜劑對孕婦來說是偉大發明，但對還未出生的孩子則是可怕的事物。內燃機非常有助於機動性，而對呼吸則會造成極大危害。氟利昂具有冷凍效果，價格低廉，但卻破壞地球外圍保護性的紫外線過濾層。在某些情形中，效用變化導致的純粹是發明者不希望看到的副效用；在大量例子中，最終的功能與初始時大相徑庭。
公正地評價各類技術，每一項都既有優點，又有缺陷。沒有不包含缺點、不偏不倚的技術。一項技術的結果隨它的本質變化而擴展。影響力大的技術同時在兩個方向發揮影響力——好的方向和壞的方向。沒有隻具備高度建設性的技術，相反也沒有隻具備高度破壞性的技術，就像不可能造成巨大危害的偉大理念是不存在的。畢竟，人類心靈是最美麗的，但也能產生殘暴的思想。事實上，除非一種發明或理念能夠被無所顧忌地濫用，否則就稱不上絕佳。這應該是技術預期的第一法則：新技術前景越光明，潛在危害性也就越大。對於互聯網搜索引擎、超文本和網絡這樣受到喜愛的新技術，這條法則也適用。這些極其強大的發明釋放出自文藝複興以來未曾見過的創造力，可是當（不是假設，而是事實）它們被濫用時，它們追蹤和預期個人行為的能力將是可怕的。如果說新技術可能創造前所未有的收益，也就有可能製造前所未見的麻煩。
要擺脫這種顯而易見的困境，方法就是考慮最壞的結果。這就是所謂“預防原則”——廣泛使用的新技術評估方法——得出的結論。
1992年世界首腦會議第一次提出預防原則，作為《裏約宣言》的一部分。在原始版本中，它建議“不得以缺乏科學充分確定證據為理由，延遲采取符合成本效益的措施防止環境惡化”。換句話說，即使不能科學地證明某種危害將要發生，這種不確定性也不應該阻止人們采取措施防止可疑危害。自那以後預防原則被多次修改，經曆多個版本，越來越像是禁令。最新的版本稱：“具有造成重大危害之不確定可能性的活動應被禁止，除非該活動支持者證明不存在造成危害的巨大風險。”
還有一個版本——或者說預防原則的另一種說明——應用於歐盟的法規（《馬斯特裏赫特條約》規定的內容）以及《聯合國氣候變化框架公約》。美國環境保護局和《空氣清潔法》（CleanAirAct）采用的方法是建立汙染控製等級製。預防原則也被寫入波特蘭、舊金山和俄勒岡州的綠色城市的市政法規中。生命倫理學家和反對迅速推廣技術的人最喜歡這條標準。
預防原則的所有版本都包含了下麵的公理：人們在接受一項技術之前必須證明它完全無害。它必須被證明是安全的，才能推廣。如果不能，應被禁止、限製、修改、丟棄或者忽視。換句話說，對新理念的第一反應應該是不作為，直到其安全性得以確定。當新事物出現時，我們應當暫停下一步行動。隻有在新技術被科學證明無害後，我們才應該嚐試使用它。
表麵上看，這種方法似乎讓人感覺理性謹慎。我們必須預計和防止危害。事先預防總要好於事後遺憾。不幸的是，預防原則的理論不錯，可實踐起來卻有問題。“預防原則對一件事來說非常有效，即停止科技進步。”哲學家和谘詢顧問馬克斯·莫爾說。卡斯·R·桑斯坦寫書揭露該原則的真相：“我們必須對預防原則提出質疑，不是因為它引導我們走向錯誤方向，而是因為它的全部價值就是讓我們原地不動。”
所有的優點總會在某處產生缺點，因此無條件地按照預防原則的嚴密邏輯，沒有任何技術將被采用。即使稍微放寬限製的版本也不會及時地允許人們使用新技術。不管理論怎樣，從現實來看，我們無法總結出所有風險，不是因為概率低的緣故，而努力預測所有不太可能發生的風險會阻礙更有可能的潛在收益。
例如，全世界有3億～5億人身染瘧疾，每年有200萬人因此死亡。它使那些逃脫死亡厄運的人身體虛弱，並導致循環性的貧困。可是在20世紀50年代，通過在室內各處噴灑殺蟲劑DDT，瘧疾的感染率下降了70%。DDT是非常成功的殺蟲劑，農民在棉田裏積極地噴灑數以噸計的DDT——它的分子進入水循環圈，最終對動物的脂肪細胞產生副作用。生物學家譴責它是導致某些猛禽生育率下降以及某些魚類和水生物種滅絕的罪魁禍首。美國1972年禁止DDT的使用和生產，其他國家隨後也頒布同樣的禁令。然而，沒有DDT的噴灑，亞洲和非洲的瘧疾病例再次開始增加至20世紀50年代之前的致命水平。在瘧疾肆虐的非洲地區，重新引入DDT噴灑的計劃被世界銀行和其他援助機構阻止，後者拒絕提供資金。1991年91個國家和歐盟簽訂的一份協議同意逐步淘汰DDT。它們依據的就是預防原則：DDT可能造成危害，事先預防勝過事後遺憾。實際上DDT從未表現出傷害人類的性質，噴灑到家中的少量DDT造成的環境危害還未測量過。可是沒人可以證明DDT不會造成傷害，盡管它已被證明能夠造福於人。
談到風險厭惡時，我們會變得不理智。我們關注我們想要抗拒的風險。我們也許注意乘坐飛機的風險，卻忽視駕車的風險；也許擔心看牙醫時照射X光的小風險，卻無視未檢查到齲齒的大風險；也許關心接種疫苗的風險，卻不注意患上流行病的風險；也許被殺蟲劑帶來的風險所困擾，而忘記有機食品的風險。
心理學家對風險進行了大量研究。現在我們知道人們會自願而不是被迫接受1000次技術或環境帶來的風險。我們無法選擇安裝自來水管的地方，因此在它的安全問題上的容忍度比使用自己選擇的手機要小。我們還知道，對技術風險的承受程度與該技術相應的可察覺的收益成比例。收益越高，能承受的風險就越大。最後，我們知道風險的可接受性直接受到預期最壞後果和最好收益的難易程度的影響，而這是由教育、宣傳、謠言和想象力決定的。有些風險容易讓人想起它導致最壞結果的案例，這樣的風險是民眾認為最重大的。如果風險有可能導致死亡，它就是“不可忽視的”。
奧維爾·萊特在給他的朋友、發明家亨利·福特的一封信中講述了他從一位駐中國的傳教士那裏聽來的故事。萊特向福特講述這個故事是有理由的，我在這裏重述，理由與萊特的相同：關於投機風險的警示性故事。傳教士希望改善他所在省份的中國農民收割莊稼的艱苦條件。當地農民用某種小剪刀剪斷作物的莖。於是傳教士拿出一把從美國運來的鐮刀，向饒有興致的人群展示它的良好工作效率。“可是，第二天早晨一個代表團來拜訪傳教士。他們要求鐮刀必須馬上銷毀。他們說，如果鐮刀落入盜賊之手，那還了得，整片莊稼一個晚上就能收割完畢並被帶走。”於是使用鐮刀的想法就被放棄了，進步沒有到來，因為不使用鐮刀者能夠想象出這種做法可能——但總體上不大可能——對團體造成重大危害的方式。（今天很多因所謂“國家安全”原因而遭受嚴重破壞的地區正是這種對不大可能的最壞情況的相似預測造成的。）
由於努力實現“安全勝過遺憾”，預防原則缺乏遠見。它往往全力追求唯一價值：安全。安全戰勝了創新。最安全的做法是精通已被采用的技術，永不嚐試可能失敗的發明，因為失敗本質上就是不安全的。醫療方法創新不如已被證明的標準療法安全。創新是不謹慎的。可是因為預防原則隻重視安全，所以它不僅削弱了其他價值，而且實際上會降低安全。
技術元素的重大事故通常不會像折斷翅膀的鳥從高空墜落或大型管道破裂那樣突然發生。現代最大的海難之一起因於船員廚房中一個燃燒的咖啡壺。區域電網突然停止運營，不是因為電力塔倒塌，而是因為一個微型泵上的墊圈斷裂。在網絡空間裏，網頁有序列表中罕見的微小漏洞可能導致整個網站崩潰。上述各種情形中，微小的缺陷激發了其他未預料到的同樣微小的係統問題，或與之共同作用。但是由於各組成部分的緊密依存關係，一連串不大可能出現的細微差錯接連而至，最後大麻煩滾滾而來、不可抑止，釀成災難。社會學家查爾斯·佩羅（CharlesPerrow）稱這些為“正常事故”，因為它們是大型係統內部活力“自然”產生的。應該受到譴責的是係統，而不是操作者。佩羅對50起大規模科技事故（例如美國三裏島核泄漏、印度博帕爾市毒氣泄漏、阿波羅13號、“埃克森·瓦爾迪茲”號油輪漏油、千年蟲等）進行了全麵的細致入微的研究，總結道：“我們設計的事物如此複雜，以至於無法預計到那些係統性故障所有可能的互動；係統內部隱藏的過程誤導或者規避我們添加的安全設備，甚至使之失效。”事實上，佩羅繼續總結，安全設備和安檢程序自身經常製造新事故。安全器件可能成為更多故障的源頭。例如，在機場加強保安，可能使擁有關鍵區域通行許可的人增多，這反而削弱了安檢力度。冗餘係統通常作為安全備份措施，也可能容易滋生新型缺陷。
這些被稱為替代風險，減少危險的舉措直接導致新危險的產生。防火布有毒，可是它的替代物毒性即使不是更大，至少也是與其相當。而且，雖然建築物內部保留防火布可能帶來低風險，但與之相比，移除防火布將大大提高火災危險性。預防原則沒有考慮替代風險的概念。
總體而言預防原則歧視新事物。很多已被采用的技術和“自然”過程包含未經檢驗的缺陷，數量之多堪比新技術，可是預防原則大幅提高了新事物進入現實生活的門檻。從本質上看，它站在有風險的舊事物或者“自然”過程的立場上對新事物指手畫腳。舉幾個例子：在不使用殺蟲劑的情況下種植農作物會導致它們產生自然殺蟲劑與害蟲搏鬥，但預防原則對這些原生毒素不適用，因為它們不是“新事物”。新型塑料水管的風險無法與舊式金屬管相提並論。DDT的風險沒有放在過去致命瘧疾的風險的背景下考慮。
最有把握解決不確定性問題的方法是更快速、更先進的科學研究。科學是檢驗過程，永遠不會完全消除不確定性，而且，在特定問題上達成的共識隨時間流逝而變化。可是基於證據的科學共識比已有的任何方法——包括憑直覺預防——更加可靠。持懷疑態度者和熱情支持者公開進行了更多科學研究，能夠讓我們更快地得出結論：“這可以放心使用”，或者“這不宜投入使用”。一旦達成共識，我們可以製定合理的法規，就像我們的社會對汽油、煙草、安全帶以及其他許多事物作出強製性改進規定一樣。
可是另一方麵我們應該讓不確定性為人類服務。即使我們認識到應該對所有創新技術的意外結果進行預估，某些特殊的意外結果還是很難預見到。“科技總是超出我們的主觀意願，我們對此非常清楚，實際上我們的意圖中已包含相關考量，”蘭登·溫納寫道，“想象這樣一個世界：各種技術隻完成大腦提前設想的特定目標，除此以外再無他用。那將是一個束縛極其嚴重的世界，完全不同於現在我們生活的這個世界。”我們知道科技會產生問題，隻是不知道哪些是新問題。
因為任何模型、試驗、模擬和檢測都包含內在不確定性，所以評估新技術唯一可靠的辦法是讓它在合適的環境中工作。一種理念必須通過新形式工作足夠長的時間，才會開始顯示副效應。如果人們對一項新鮮出爐的技術進行快速檢驗，隻能看到它的主要影響。可是大多數情況下，技術產生的意外副效應正是隨後出現的問題的根源。
預測、試驗或理論分析很少指出通常突然降臨社會的副效應。科幻小說大師艾薩克·阿西莫夫敏銳地觀察到，在馬作為出行動力的時代很多普通人熱切盼望無馬四輪車的出現，並且很容易想象它的模樣。汽車是眾望所歸的新事物，因為它是馬車主動力的延伸——靠自身力量向前運動的交通工具。汽車能完成馬車的一切功能，同時又不用馬作為動力。可是阿西莫夫接著注意到想象無馬四輪車的副效應——例如汽車電影院、交通癱瘓和四通八達的公路——是多麽困難的事。
副效應的顯現通常需要使用新技術達到一定次數，一定程度的普遍性。最早的汽車引發的主要擔憂集中於乘客的安全問題——汽油發動機是否會爆炸或者刹車是否失靈。但是真正的質疑出現在汽車量產之後，那時有數十萬輛汽車問世。人們擔心汽車的少量汙染物持續傷害人體，擔心高速行駛時會撞死行人，更不用說對城郊的破壞和長途上下班的煩惱。這一切都是副效應。
不可預見的技術效用有一個共同根源，即各種技術的互動。2005年，研究人員在一份事後報告中對當時已撤銷的美國技術評估局——存在時間為1972年至1995年——在評估即將問世的技術時不能發揮更大影響的原因作了如下總結：
雖然人們可以對極其先進的專業技術（例如超音速交通工具、核反應堆和特殊藥品）作出看似合理（盡管總是無法確定）的預測，但技術的根本轉變能力不是來自具體的人工製品本身，而是來自彌漫整個社會的技術係統的各類互動子係統。
總之，對新技術進行小範圍精確試驗和仿真模擬不能發現重要的副效應，因此即將問世的技術必須通過實踐操作進行檢驗，並且實時評估。換句話說，人們必須根據特定技術在現實生活中的試驗和問題來判斷風險。
對新理念的合理反應應當是立即開展試驗。而且隻要它還沒有被丟棄，就應該不斷試驗、檢測。事實上，與預防原則相反，技術永遠不能被認為“已證明安全”。人們必須時刻警惕，不間斷地對技術進行檢驗，因為它不斷地被使用者和作為母體的內部共同進化的技術元素重新設計。