Analiz tuzakları

"Tüm modeller yanlıştır, ancak bazıları kullanışlıdır." — George Box, 1978

İstatistiksel teknikler güçlü olsa da bazı sınırlamaları vardır. Bu sınırlamaların anlaşılması, araştırmacının BF Skinner'ın Shakespeare'in ünsüz tekrarı rastgeleliğin öngördüğünden daha fazla kullanmadığı iddiası gibi hatalar ve yanlış iddialardan kaçınmasına yardımcı olabilir. (Skinner'ın çalışması yeterli güce sahip değildi.¹)

Belirsizlik ve hata çubukları

Analizinizde belirsizliği belirtmeniz önemlidir. Diğer kullanıcıların analizlerindeki belirsizliği ölçmek de aynı derecede önemlidir. Bir grafikte trend çizdiği görülen ancak örtüşen hata çubuklarına sahip veri noktaları, herhangi bir eğilimi göstermeyebilir. Belirli bir çalışmadan veya istatistiksel testten faydalı sonuçlar çıkarmak için belirsizlik çok yüksek olabilir. Bir araştırma çalışmasında parsel düzeyinde doğruluk gerekiyorsa +/- 500 m belirsizlik içeren bir coğrafi veri kümesi, kullanılamayacak kadar belirsizdir.

Alternatif olarak, karar verme süreçlerinde belirsizlik düzeyleri de faydalı olabilir. Sonuçlarda% 20 belirsizlik bulunan belirli bir su arıtma işlemini destekleyen veriler, bu belirsizliği gidermek için programın sürekli izlenmesi koşuluyla söz konusu su arıtma işleminin uygulanmasıyla ilgili bir öneriye yol açabilir.

Bayesyen sinir ağları, tek değerler yerine değerlerin dağılımını tahmin ederek belirsizliği ölçebilir.

Alakasız içerik

Giriş bölümünde de belirtildiği gibi, veriler ile gerçek arasında her zaman en azından küçük bir fark vardır. Akıllı yapay zeka uzmanı, veri kümesinin sorulan soruyla alakalı olup olmadığını belirlemelidir.

Huff, siyah Amerikalıların iyi bir yaşam sürmesinin ne kadar kolay olduğu sorusuna beyaz Amerikalıların verdiği yanıtların, siyah Amerikalılara karşı sempati düzeyleriyle doğrudan ve ters orantılı olduğunu ortaya koyan eski bir kamuoyu araştırmasını anlatıyor. Irkçı düşmanlık arttıkça, beklenen ekonomik fırsatlarla ilgili yanıtlar giderek daha iyimser hale geldi. Bu durum, ilerleme işareti olarak yanlış anlaşılmış olabilir. Ancak çalışma, o dönemde siyahi Amerikalıların sahip olduğu gerçek ekonomik fırsatlar hakkında hiçbir şey gösteremedi ve iş piyasasının gerçekliği hakkında değil, yalnızca anket katılımcılarının görüşleri hakkında sonuç çıkarmaya uygun değildi. Toplanan veriler aslında iş piyasasının durumuyla alakalı değildi.²

Yukarıda açıklanan gibi bir anket verisiyle bir model eğitebilirsiniz. Bu modelde çıkış, fırsat yerine iyimserlik ölçer. Ancak tahmin edilen fırsatlar gerçek fırsatlarla alakasız olduğundan, modelin gerçek fırsatları tahmin ettiğini iddia ederseniz modelin tahminlerini yanlış beyan etmiş olursunuz.

Karıştırıcı faktörler

Karıştırıcı değişken, karıştırıcı veya kofaktör,incelenmeyen ancak incelenen değişkenleri etkileyen ve sonuçları bozabilecek bir değişkendir. Örneğin, bir giriş ülkesinin ölüm oranlarını halk sağlığı politikası özelliklerine göre tahmin eden bir yapay zeka modelini düşünün. Ortalama yaşın bir özellik olmadığını varsayalım. Ayrıca bazı ülkelerin nüfusunun diğerlerinden daha yaşlı olduğunu varsayalım. Bu model, ortalama yaş karmaşık değişkenini göz ardı ederek hatalı ölüm oranları tahmin edebilir.

Amerika Birleşik Devletleri'nde ırk genellikle sosyoekonomik sınıfla güçlü bir şekilde ilişkilidir. Ancak ölüm verileri ile sınıf değil, yalnızca ırk kaydedilir. Sağlık hizmetlerine erişim, beslenme, tehlikeli işler ve güvenli konut gibi sınıfla ilgili karıştırıcı faktörler, ölüm oranları üzerinde ırktan daha güçlü bir etkiye sahip olabilir ancak veri kümelerine dahil edilmedikleri için göz ardı edilebilir.³ Bu karıştırıcı faktörleri tespit etmek ve kontrol etmek, yararlı modeller oluşturmak ve anlamlı ve doğru sonuçlara varmak için çok önemlidir.

Bir model, sınıfı değil de ırkı içeren mevcut ölüm verileri üzerinde eğitilirse sınıf ölümle ilgili daha güçlü bir tahmin aracı olsa bile ölümü ırka göre tahmin edebilir. Bu durum, nedensellik hakkında yanlış varsayımlara ve hasta ölüm oranı hakkında yanlış tahminlere yol açabilir. Makine öğrenimi uygulayıcıları, verilerinde karışıklık olup olmadığını ve veri kümelerinde hangi anlamlı değişkenlerin eksik olabileceğini sormalıdır.

1985 yılında, Harvard Tıp Fakültesi ve Harvard Kamu Sağlığı Fakültesi'nin gözlemsel kohort çalışması olan Hemşire Sağlığı Çalışması, östrojen replasman tedavisi gören kohort üyelerinin, östrojen hiç kullanmayan kohort üyelerine kıyasla daha düşük kalp krizi oranına sahip olduğunu tespit etti. Sonuç olarak doktorlar, 2002'de yapılan bir klinik çalışmada uzun süreli östrojen tedavisinin neden olduğu sağlık riskleri tespit edilene kadar on yıllar boyunca menopoz ve menopoz sonrası hastalarına östrojen reçete etti. Menopoz sonrası kadınlara östrojen reçete etme uygulaması durduruldu ancak bu uygulama on binlerce erken ölüme yol açmadan önce durdurulmadı.

İlişkilendirmeye birden fazla karıştırıcı faktör neden olmuş olabilir. Epidemiyologlar, hormon replasman tedavisi gören kadınların, tedavi görmeyen kadınlara kıyasla daha ince, daha eğitimli, daha zengin, sağlıkları konusunda daha bilinçli ve egzersiz yapma olasılıkları daha yüksek olduğunu tespit etti. Farklı çalışmalarda, eğitimin ve zenginliğin kalp hastalığı riskini azalttığı tespit edilmiştir. Bu etkiler, östrojen tedavisi ile kalp krizleri arasındaki belirgin ilişkiyi karıştırmış olabilir.⁴

Negatif sayılar içeren yüzdeler

Anlamlı kazanç ve kayıpların gizlenebilmesi nedeniyle,negatif sayılar olduğunda yüzdelerden⁵ kaçının. Basit hesaplamalar yapabilmek için restoran sektöründe 2 milyon iş olduğunu varsayalım. Sektör, Mart 2020'nin sonlarında bu işlerden 1 milyonunu kaybederse, on ay boyunca net bir değişiklik yaşamazsa ve Şubat 2021'in başlarında 900.000 iş kazanırsa Mart 2021'in başlarında yapılan yıllık karşılaştırma, restoran işlerinde yalnızca% 5 oranında kayıp olduğunu gösterir. Başka bir değişiklik olmadığı varsayıldığında, Nisan 2021'in sonundaki yıllık karşılaştırma, restoran işlerinde% 90 artış olduğunu gösterir. Bu, gerçekle çok farklı bir tablodur.

Uygun şekilde normalleştirilmiş gerçek sayıları tercih edin. Daha fazla bilgi için Sayısal Verilerle Çalışma başlıklı makaleyi inceleyin.

Sonradan nedensellik yanılgısı ve kullanılamayan korelasyonlar

Sonradan nedensellik yanılgısı, A olayının ardından B olayının gerçekleşmesi nedeniyle A olayının B olayına neden olduğu varsayımıdır. Daha basit bir ifadeyle, var olmayan bir neden-sonuç ilişkisi varmış gibi davranmaktır. Daha basit bir ifadeyle: korelasyonlar nedenselliği kanıtlamaz.

Net bir neden-sonuç ilişkisine ek olarak, korelasyonlar aşağıdakilerden de kaynaklanabilir:

• Tamamen şans eseri (Maine'deki boşanma oranı ile margarinin tüketimi arasındaki güçlü ilişki de dahil olmak üzere örnekler için Tyler Vigen'in Yanlış korelasyonlar başlıklı makalesine bakın).
• İki değişken arasında gerçek bir ilişki vardır ancak hangi değişkenin neden olduğu ve hangi değişkenin etkilendiği net değildir.
• İlişkili değişkenler birbirinden bağımsız olsa da her iki değişkeni de etkileyen üçüncü bir ayrı neden. Örneğin, küresel enflasyon hem yatların hem de kerevizlerin fiyatını artırabilir.⁶

Mevcut verileri aşan bir korelasyon tahmini yapmak da risklidir. Huff, yağmurun bir miktarının ekinleri iyileştireceğini ancak çok fazla yağmurun ekinlere zarar vereceğini belirtiyor. Yağmur ile ekin verimi arasındaki ilişki doğrusal değildir.⁷ (Doğrusal olmayan ilişkiler hakkında daha fazla bilgi için sonraki iki bölüme bakın.) Jones, dünyanın savaş ve kıtlık gibi öngörülemeyen olaylarla dolu olduğunu ve bu olayların, zaman serisi verilerinin gelecekteki tahminlerini çok fazla belirsizliğe tabi tuttuğunu belirtiyor.⁸

Ayrıca, neden ve etkiye dayalı gerçek bir korelasyon bile karar vermede yararlı olmayabilir. Huff, örnek olarak 1950'lerdeki evlenilebilirlik ile üniversite eğitimi arasındaki ilişkiyi verir. Üniversiteye giden kadınların evlenme olasılığı daha düşüktü ancak üniversiteye giden kadınların evlenmeye daha az hevesli olması da söz konusu olabilir. Bu durumda, üniversite eğitimi, evlenme olasılığını değiştirmemiştir.⁹

Bir analiz, veri kümesindeki iki değişken arasında korelasyon tespit ederse şunları sorun:

• Bu ne tür bir korelasyondur: neden-sonuç, yanlış, bilinmeyen ilişki mi yoksa üçüncü bir değişkenden mi kaynaklanıyor?
• Verilerden ekstrapolasyon yapmak ne kadar risklidir? Eğitim veri kümesinde bulunmayan verilerle ilgili her model tahmini, aslında verilerden elde edilen bir enterpolasyon veya ekstrapolasyondur.
• İlişkilendirme, yararlı kararlar almak için kullanılabilir mi? Örneğin, iyimserlik, artan ücretlerle güçlü bir şekilde ilişkili olabilir ancak belirli bir ülkedeki kullanıcıların sosyal medya gönderileri gibi büyük bir metin veri kümesinin duyarlılığı analizi, söz konusu ülkedeki ücret artışlarını tahmin etmek için yararlı olmaz.

ML uzmanları, bir modeli eğitirken genellikle etiketle güçlü bir şekilde ilişkili olan özellikleri arar. Özellikler ile etiket arasındaki ilişki iyi anlaşılmazsa bu durum, yanlış korelasyonlara dayalı modeller ve geçmiş trendlerin gelecekte devam edeceğini varsaymasına rağmen aslında devam etmeyen modeller de dahil olmak üzere bu bölümde açıklanan sorunlara yol açabilir.

Doğrusal önyargı

Bart de Langhe, Stefano Puntoni ve Richard Larrick, "Doğrusal Olmayan Bir Dünyada Doğrusal Düşünme" adlı makalede doğrusal önyargıyı, birçok fenomen doğrusal olmasa da insan beyninin doğrusal ilişkiler bekleme ve arama eğilimi olarak tanımlar. Örneğin, insanların tutumları ile davranışları arasındaki ilişki bir doğru değil, dışbükey bir eğridir. de Langhe ve arkadaşları tarafından 2007'de Journal of Consumer Policy'da yayınlanan bir makalede, Jenny van Doorn ve arkadaşları, anket katılımcılarının çevreyle ilgili endişeleri ile organik ürün satın alma işlemleri arasındaki ilişkiyi modelledi. Çevre konusunda en fazla endişe duyanlar daha fazla organik ürün satın aldı, ancak diğer tüm katılımcılar arasında çok az fark vardı.

van Doorn ve arkadaşlarının makalesinden basitleştirilerek uyarlanan organik satın alma işlemleri ve çevresel endişe puanı grafiği

Modelleri veya çalışmaları tasarlarken doğrusal olmayan ilişkilerin olasılığını göz önünde bulundurun. A/B testi doğrusal olmayan ilişkileri gözden kaçırabileceğinden, üçüncü bir ara koşul olan C'yi de test edebilirsiniz. Ayrıca, doğrusal görünen ilk davranışın doğrusal olmaya devam edip etmeyeceğini veya gelecekteki verilerin daha logaritmik veya doğrusal olmayan başka bir davranış gösterip göstermeyeceğini de göz önünde bulundurun.

Logaritmik verilere kötü bir doğrusal sığdırma örneği

Bu varsayımsal örnekte, logaritmik veriler için hatalı bir doğrusal uyum gösterilmektedir. Yalnızca ilk birkaç veri noktası mevcutsa değişkenler arasında devam eden doğrusal bir ilişki olduğunu varsaymak hem cazip hem de yanlış olur.

Doğrusal interpolasyon

Veri noktaları arasındaki tüm ara değerleri inceleyin. Çünkü ara değerler hayali noktalar oluşturur ve gerçek ölçümler arasındaki aralıklar anlamlı dalgalanmalar içerebilir. Örneğin, doğrusal ara değerlerle birbirine bağlı dört veri noktasının aşağıdaki görselleştirmesini inceleyin:

Doğrusal interpolasyon örneği.

Ardından, doğrusal enterpolasyonla silinen veri noktaları arasındaki dalgalanmalara ilişkin şu örneği inceleyin:

Veri noktaları arasındaki anlamlı dalgalanmayı (deprem) gösteren örnek.

Bu örnek, sismograflar sürekli veri topladığından ve bu nedenle bu depremin kaçırılmayacağı için kurgusaldır. Ancak bu yöntem, verileri kullananların gözden kaçırabileceği gerçek fenomenleri ve doğrusal olmayan yöntemlerle yapılan varsayımları göstermek için yararlıdır.

Runge olgusu

"Polinom dalgalanması " olarak da bilinen Runge'nin olgusu, doğrusal enterpolasyon ve doğrusal önyargıdan farklı bir spektrumun ucundaki bir sorundur. Verilere polinom enterpolasyonu sığdırırken çok yüksek dereceli bir polinom (derece veya sıra, polinom denklemindeki en yüksek üs) kullanabilirsiniz. Bu durum, kenarlarda garip salınımlar oluşturur. Örneğin, yaklaşık doğrusal verilere 11. dereceden bir çok terimli kesme noktası uygulamak (yani çok terimli denklemdeki en yüksek dereceli terimin \(x^{11}\)olması), veri aralığının başında ve sonunda belirgin şekilde kötü tahminlere neden olur:

Polinom salınım örneği

ML bağlamında buna benzer bir fenomen aşırı uyum olarak adlandırılır.

İstatistiksel olarak algılanamayan hatalar

Bazen istatistiksel testler, küçük bir etkiyi algılamak için yeterince güçlü olmayabilir. İstatistiksel analizde düşük güç, gerçek etkinlikleri doğru şekilde tanımlama olasılığının düşük olduğu ve dolayısıyla yanlış negatiflerin yüksek olduğu anlamına gelir. Katherine Button ve arkadaşları Nature'da şunları yazmıştır: "Belirli bir alandaki çalışmalar %20 güçle tasarlandığında, bu alanda keşfedilecek 100 gerçek sıfır olmayan etki varsa bu çalışmaların yalnızca 20'sini keşfetmesi beklenir." Örnek boyutunu artırmak ve dikkatli bir çalışma tasarımı bazen yardımcı olabilir.

ML'de benzer bir durum, sınıflandırma ve sınıflandırma eşiği seçimi sorunudur. Daha yüksek bir eşik seçtiğinizde daha az yanlış pozitif ve daha fazla yanlış negatif sonuç elde edersiniz. Daha düşük bir eşik seçtiğinizde ise daha fazla yanlış pozitif ve daha az yanlış negatif sonuç elde edersiniz.

İstatistiksel gücüyle ilgili sorunlara ek olarak, korelasyon doğrusal ilişkileri algılamak için tasarlandığından değişkenler arasındaki doğrusal olmayan korelasyonlar gözden kaçabilir. Benzer şekilde, değişkenler birbiriyle ilişkili olabilir ancak istatistiksel olarak ilişkili olmayabilir. Değişkenler, Berkson paradoksu veya Berkson yanılgısı olarak bilinen durumda negatif korelasyona sahip ancak tamamen alakasız olabilir. Berkson yanılgısının klasik örneği, hastanede yatan hasta popülasyonuna (genel popülasyona kıyasla) bakıldığında herhangi bir risk faktörü ile ciddi hastalık arasında görülen ve seçim sürecinden (hastaneye yatış gerektirecek kadar ciddi bir durum) kaynaklanan yanlış negatif korelasyondur.

Bu durumlardan herhangi birinin sizin için geçerli olup olmadığını düşünün.

Eski modeller ve geçersiz varsayımlar

Davranışlar (ve bu bağlamda dünya) değişebileceğinden, iyi modeller bile zaman içinde bozulabilir. Netflix'in müşteri tabanı genç ve teknoloji konusunda bilgili kullanıcılardan genel nüfusa dönüştüğünden, Netflix'in ilk tahmin modellerinin kullanımdan kaldırılması gerekti.¹⁰

Modeller, 2008'deki piyasa çöküşünde olduğu gibi modelin feci bir şekilde başarısız olmasına kadar gizli kalabilen sessiz ve yanlış varsayımlar da içerebilir. Finans sektörünün Riskli Değer (VaR) modelleri, herhangi bir satıcının portföyündeki maksimum kaybı (ör. %99 oranında beklenen maksimum 100.000 ABD doları kaybı) tam olarak tahmin ettiğini iddia ediyordu. Ancak, çöküşün anormal koşullarında, beklenen maksimum kaybı 100.000 ABD doları olan bir portföy bazen 1.000.000 ABD doları veya daha fazla kayba uğradı.

VaR modelleri aşağıdakiler de dahil olmak üzere hatalı varsayımlara dayanıyordu:

• Geçmişteki pazar değişiklikleri, gelecekteki pazar değişikliklerini tahmin eder.
• Tahmin edilen getirilerin temelinde normal (ince kuyruklu ve dolayısıyla tahmin edilebilir) bir dağılım vardı.

Yüksek K değerlerinde ince kuyruklu, düşük K değerlerinde ise kalın kuyruklu olan von Mises dağılımının grafiği.

Aslında temel dağılım, kalın kuyruklu, "vahşi" veya fraktalikti. Bu, normal bir dağılımın tahmin edeceğinden çok daha yüksek bir uzun kuyruk, aşırı ve sözde nadir olaylar riski olduğu anlamına geliyordu. Gerçek dağılımın kalın kuyruklu yapısı iyi biliniyordu ancak buna göre hareket edilmedi. Otomatik satışlarla bilgisayar tabanlı alım satımı da içeren çeşitli fenomenlerin ne kadar karmaşık ve birbirine sıkı sıkıya bağlı olduğu ise pek bilinmiyordu.¹¹

Toplama sorunları

Demografik ve epidemiyolojik verilerin çoğunu içeren toplu veriler belirli bir dizi tuzağa tabidir. Simpson paradoksu veya birleştirme paradoksu, veriler farklı bir düzeyde toplandığında, karıştırıcı faktörler ve yanlış anlaşılan nedensel ilişkiler nedeniyle belirgin trendlerin kaybolduğu veya tersine döndüğü toplu verilerde ortaya çıkar.

Ekolojik yanılgı, bir popülasyonla ilgili bilgileri bir toplama düzeyinde yanlış bir şekilde başka bir toplama düzeyine ekstrapolasyon yapmayı içerir. Bu durumda, iddia geçerli olmayabilir. Bir ilde tarım işçilerinin% 40'ını etkileyen bir hastalık, daha geniş nüfusta aynı yaygınlıkta olmayabilir. Ayrıca, söz konusu ilde bu hastalığın benzer şekilde yüksek bir yaygınlık göstermediği, izole çiftlikler veya tarım kasabaları da olabilir. Etkilenen bölgelerin daha az olduğu yerlerde de% 40 oranında bir yaygınlık olduğunu varsaymak yanlış olur.

Değiştirilebilir alan birimi sorunu (MAUP), Stan Openshaw tarafından 1984'te CATMOG 38'de açıklanan, coğrafi verilerde bilinen bir sorundur. Coğrafi veri uzmanları, verileri toplamak için kullanılan alanların şekillerine ve boyutlarına bağlı olarak verilerdeki değişkenler arasında neredeyse her türlü korelasyon kurabilir. Bir partiyi veya diğerini destekleyen seçim bölgeleri çizmek, MAUP'a örnektir.

Bu durumların tümü, bir toplama seviyesinden diğerine uygun olmayan bir ekstrapolasyon içerir. Farklı analiz düzeyleri farklı toplama işlemleri veya hatta tamamen farklı veri kümeleri gerektirebilir.¹²

Nüfus sayımı, demografi ve epidemiyoloji verilerinin genellikle gizlilik nedeniyle bölgelere göre toplandığını ve bu bölgelerin genellikle keyfi olduğunu (yani gerçek dünyadaki anlamlı sınırlara dayalı olmadığını) unutmayın. Bu tür verilerle çalışırken ML uzmanları, model performansının ve tahminlerinin seçilen bölgelerin boyutuna ve şekline ya da toplama düzeyine bağlı olarak değişip değişmediğini ve değişiyorsa model tahminlerinin bu toplama sorunlarından birinden etkilenip etkilenmediğini kontrol etmelidir.

Referanslar

Button, Katharine ve diğerleri. "Güç hatası: Küçük örnek boyutu neden sinirbilimin güvenilirliğini azaltır?" Nature Reviews Neuroscience cilt 14 (2013), 365-376. DOI: https://doi.org/10.1038/nrn3475

Kahire, Alberto. How Charts Lie: Getting Smarter about Visual Information. NY: W.W. Norton, 2019.

Davenport, Thomas H. "A Predictive Analytics Primer." HBR Guide to Data Analytics Basics for Managers (Boston: HBR Press, 2018) 81-86.

De Langhe, Bart, Stefano Puntoni ve Richard Larrick. "Doğrusal Olmayan Bir Dünyada Doğrusal Düşünme." HBR Guide to Data Analytics Basics for Managers (Boston: HBR Press, 2018) s. 131-154.

Ellenberg, Ürdün. How Not to Be Wrong: The Power of Mathematical Thinking. NY: Penguin, 2014.

Huff, Darrell. İstatistiklerle Yalan Söyleme NY: W.W. Norton, 1954.

Jones, Ben. Verilerle ilgili tuzakları önleme Hoboken, NJ: Wiley, 2020.

Openshaw, Stan. "The Modifiable Areal Unit Problem," CATMOG 38 (Norwich, İngiltere: Geo Books 1984) 37.

Finansal Modellemenin Riskleri: VaR ve Ekonomik Çöküş, 111. Taleb ve Richard Bookstaber).

Ritter, David. "When to Act on a Correlation, and When Not To." Yöneticiler İçin Veri Analizi ile İlgili Temel Bilgiler HBR Rehberi (Boston: HBR Press, 2018) 103-109.

Tulchinsky, Theodore H. and Elena A. Varavikova. "3. Bölüm: Bir Nüfusun Sağlığını Ölçme, İzleme ve Değerlendirme", Yeni Halk Sağlığı, 3. baskı, San Diego: Academic Press, 2014, s. 91-147. DOI: https://doi.org/10.1016/B978-0-12-415766-8.00003-3.

Van Doorn, Jenny, Peter C. Verhoef ve Tammo H. C. Bijmolt. "Politika araştırmalarında tutum ile davranış arasındaki doğrusal olmayan ilişkilerin önemi." Journal of Consumer Policy 30 (2007) 75–90. DOI: https://doi.org/10.1007/s10603-007-9028-3

Resim referansı

"Von Mises Dağılımı"na dayanır. Rainald62, 2018. Kaynak

---

1. Ellenberg 125. ↩

2. Huff 77-79. Huff, Princeton'daki Kamuoyu Araştırmaları Ofisi'nden bahsediyor ancak Denver Üniversitesi'ndeki Ulusal Kamuoyu Araştırmaları Merkezi'nin Nisan 1944 tarihli raporunu kastetmiş olabilir. ↩

3. Tulchinsky ve Varavikova. ↩

4. Gary Taubes, The New York Times Magazine'da 16 Eylül 2007'de yayınlanan Do We Really Know What Makes Us Healthy?" (Bizi Gerçekten Sağlıklı Yapanı Biliyor muyuz?) ↩

5. Ellenberg 78. ↩

6. Huff 91-92. ↩

7. Huff 93. ↩

8. Jones 157-167. ↩

9. Huff 95. ↩

10. Davenport 84. ↩

11. Nassim N.'nin Kongre'deki ifadesini inceleyin. Taleb ve Richard Bookstaber, Finansal Modellemenin Riskleri: VaR ve Ekonomik Çöküş, 111. Kongre (2009) 11-67. ↩

12. Kahire 155, 162. ↩