Probability and Statistics for Computer Science Can - PowerPoint PPT Presentation

Probability ¡and ¡Statistics ¡ ì ¡ for ¡Computer ¡Science ¡ ¡ Can ¡we ¡call ¡ ¡ ¡ ¡ ¡ ¡ ¡the ¡ e exci-ng ¡ ¡ ¡ ¡ ¡? ¡ e ¡ � n � 1 + 1 e = lim n n →∞ Credit: ¡wikipedia ¡ Hongye ¡Liu, ¡Teaching ¡Assistant ¡Prof, ¡CS361, ¡UIUC, ¡10.1.2019 ¡

Last ¡time ¡ ✺ Con-nuous ¡Random ¡Variable ¡ ¡ ✺ Useful ¡known ¡discrete ¡ probability ¡distribu-ons ¡

Midterm ¡exam ¡1 ¡ ✺ Time: ¡Oct. ¡10 ¡th, ¡Thurs. ¡2019 ¡ ✺ Place: ¡the ¡same ¡classroom-­‑ ¡ ¡1320 ¡DCL ¡ ✺ Dura-on: ¡75 ¡mins ¡ ✺ Coverage: ¡ All ¡course ¡contents ¡upto ¡today’s ¡lecture, ¡and ¡the ¡ HWs ¡No.1-­‑5. ¡ ¡ ✺ Notes ¡on ¡one ¡sheet ¡of ¡paper ¡of ¡the ¡size ¡8.5×11inch ¡(both ¡ sides) ¡are ¡permiZed. ¡ ¡ ✺ No ¡calculator ¡or ¡other ¡electronic ¡device ¡ ✺ No ¡use ¡of ¡phone ¡

HW5 ¡is ¡released ¡

Content ¡ ✺ Useful ¡known ¡probability ¡ distribu-ons ¡(II) ¡ ✺ Poisson ¡distribu-on ¡ ✺ Uniform ¡con-nuous ¡distribu-on ¡ ✺ Exponen-al ¡distribu-on ¡ ✺ Normal ¡distribu-on ¡& ¡Central ¡Limit ¡Theorem ¡ ✺ Approximate ¡Binomial ¡with ¡Normal ¡ Distribu-on ¡

Poisson ¡Distribution ¡

Motivation ¡for ¡a ¡model ¡called ¡ Poisson ¡Distribution ¡ ¡ ✺ What’s ¡the ¡probability ¡of ¡the ¡ number ¡of ¡ incoming ¡customers ¡(k) ¡ in ¡an ¡hour? ¡ ✺ It’s ¡widely ¡applicable ¡in ¡physics ¡ ¡ ¡ ¡and ¡engineering ¡both ¡for ¡ ¡ ¡ ¡modeling ¡of ¡-me ¡and ¡space. ¡ Simeon ¡D. ¡Poisson ¡ Credit: ¡wikipedia ¡ (1781-­‑1840) ¡

Poisson ¡Distribution ¡ ✺ A ¡discrete ¡random ¡variable ¡ X ¡ ¡is ¡called ¡ Poisson ¡with ¡intensity ¡λ ¡(λ>0) ¡if ¡ P ( X = k ) = e − λ λ k k ! for ¡integer ¡ k ≥ 0 ¡ λ is the average rate of Simeon ¡D. ¡Poisson ¡ x ¡ the event ′ s occurrence (1781-­‑1840) ¡

Poisson ¡Distribution ¡ ✺ Poisson ¡distribu-on ¡is ¡a ¡valid ¡pdf ¡for ¡ ¡ ∞ ∞ λ i λ k e − λ ¡ � i ! = e λ ⇒ � = 1 ¡ k ! ¡ i =0 k =0 ¡ P ( X = k ) = e − λ λ k k ! ¡ for ¡integer ¡ k ≥ 0 λ is the average rate of Simeon ¡D. ¡Poisson ¡ x ¡ the event ′ s occurrence (1781-­‑1840) ¡

Poisson ¡Distribution ¡ ✺ Poisson ¡distribu-on ¡is ¡a ¡valid ¡pdf ¡for ¡ ∞ ∞ λ i λ k e − λ � i ! = e λ ⇒ � = 1 x ¡ k ! i =0 k =0 P ( X = k ) = e − λ λ k k ! ¡ for ¡integer ¡ k ≥ 0 λ is the average rate of Simeon ¡D. ¡Poisson ¡ x ¡ the event ′ s occurrence (1781-­‑1840) ¡

Expectations ¡of ¡Poisson ¡Distribution ¡ ✺ The ¡expected ¡value ¡and ¡the ¡variance ¡are ¡ wonderfully ¡the ¡same! ¡ ¡That ¡is ¡ λ ¡! ¡ P ( X = k ) = e − λ λ k k ! for ¡integer ¡ k ≥ 0 ¡ E [ X ] = λ x ¡ var [ X ] = λ Simeon ¡D. ¡Poisson ¡ (1781-­‑1840) ¡

Examples ¡of ¡Poisson ¡Distribution ¡ ✺ How ¡many ¡calls ¡does ¡a ¡call ¡center ¡get ¡in ¡an ¡hour? ¡ ✺ How ¡many ¡muta-ons ¡occur ¡per ¡100k ¡ ¡ ¡ ¡nucleo-des ¡in ¡an ¡DNA ¡strand? ¡ ✺ How ¡many ¡ independent ¡incidents ¡occur ¡in ¡an ¡ interval? ¡ P ( X = k ) = e − λ λ k k ! ¡ for ¡integer ¡ k ≥ 0

Poisson ¡Distribution: ¡call ¡center ¡ ✺ If ¡a ¡call ¡center ¡receives ¡10 ¡ calls ¡per ¡hour ¡on ¡average, ¡ what ¡is ¡the ¡probability ¡that ¡it ¡ receives ¡15 ¡calls ¡in ¡a ¡given ¡ hour? ¡ ¡ ✺ What ¡is ¡ λ ¡here? ¡ ✺ What ¡is ¡P(k=15)? ¡ Credit: ¡wikipedia ¡

Poisson ¡Distribution: ¡call ¡center ¡ ✺ If ¡a ¡call ¡center ¡receives ¡10 ¡ calls ¡per ¡hour ¡on ¡average, ¡ what ¡is ¡the ¡probability ¡that ¡it ¡ receives ¡15 ¡calls ¡in ¡a ¡given ¡ hour? ¡ ¡ ✺ What ¡is ¡ λ ¡here? ¡ 10 ¡ For ¡the ¡expected ¡value ¡of ¡ ✺ Poisson ¡is ¡ λ ¡ ¡ ✺ What ¡is ¡P(k=15)? ¡ 10 15 e − 10 15! Credit: ¡wikipedia ¡

Q. ¡Poisson ¡Distribution: ¡call ¡center ¡ If ¡a ¡call ¡center ¡receives ¡4 ¡ calls ¡per ¡hour ¡on ¡average. ¡ What ¡is ¡intensity ¡ λ ¡here ¡ for ¡an ¡hour? ¡ A. 1 ¡ B. 4 ¡ C. 8 ¡ Credit: ¡wikipedia ¡

Q. ¡Poisson ¡Distribution: ¡call ¡center ¡ If ¡a ¡call ¡center ¡receives ¡4 ¡ calls ¡per ¡hour ¡on ¡average. ¡ What ¡is ¡the ¡intensity ¡ λ ¡ here ¡for ¡an ¡hour? ¡ A. 1 ¡ B. 4 ¡ x ¡ C. 8 ¡ Credit: ¡wikipedia ¡

Q. ¡Poisson ¡Distribution: ¡call ¡center ¡ If ¡a ¡call ¡center ¡receives ¡4 ¡ calls ¡per ¡hour ¡on ¡average. ¡ What ¡is ¡probability ¡the ¡ center ¡receives ¡0 ¡calls ¡in ¡ an ¡hour? ¡ A. e -­‑4 ¡ B. 0.5 ¡ C. 0.05 ¡ Credit: ¡wikipedia ¡

Q. ¡Poisson ¡Distribution: ¡call ¡center ¡ If ¡a ¡call ¡center ¡receives ¡4 ¡ calls ¡per ¡hour ¡on ¡average. ¡ What ¡is ¡probability ¡the ¡ center ¡receives ¡0 ¡calls ¡in ¡ an ¡hour? ¡ A. e -­‑4 ¡ x ¡ B. 0.5 ¡ C. 0.05 ¡ Credit: ¡wikipedia ¡

Q. ¡Poisson ¡Distribution: ¡call ¡center ¡ ✺ Given ¡a ¡call ¡center ¡receives ¡ 10 ¡calls ¡per ¡hour ¡on ¡average, ¡ what ¡is ¡the ¡intensity ¡ λ ¡of ¡the ¡ distribu-on ¡for ¡calls ¡in ¡ Two ¡ hours? ¡ ¡ Credit: ¡wikipedia ¡

Q. ¡Poisson ¡Distribution: ¡call ¡center ¡ ✺ Given ¡a ¡call ¡center ¡receives ¡ 10 ¡calls ¡per ¡hour ¡on ¡average, ¡ what ¡is ¡the ¡intensity ¡ λ ¡of ¡the ¡ distribu-on ¡for ¡calls ¡in ¡ Two ¡ hours? ¡ ¡ ✺ If ¡we ¡scale ¡the ¡interval, ¡then ¡ the ¡intensity ¡of ¡the ¡ distribu-on ¡scales ¡by ¡the ¡ same ¡amount. ¡ ¡ ¡ λ =20 ¡ Credit: ¡wikipedia ¡

Qs ¡for ¡discrete ¡distributions ¡

Q. ¡ ✺ A ¡store ¡staff ¡mixed ¡their ¡fuji ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡and ¡gala ¡ apples ¡and ¡they ¡were ¡individually ¡wrapped, ¡so ¡ they ¡are ¡indis-nguishable. ¡Given ¡there ¡are ¡ 70% ¡of ¡fuji, ¡ ¡if ¡I ¡want ¡to ¡know ¡what ¡is ¡the ¡ probability ¡I ¡get ¡7 ¡fuji ¡in ¡20 ¡apples? ¡What ¡is ¡the ¡ distribu-on ¡I ¡should ¡use? ¡ A. ¡Bernoulli ¡ ¡ ¡B. ¡Binomial ¡ ¡ ¡ ¡C. ¡Geometric ¡ ¡ ¡ ¡ ¡ D. ¡Poisson ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡E. ¡Uniform ¡ ¡

Q. ¡ ✺ A ¡store ¡staff ¡mixed ¡their ¡fuji ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡and ¡gala ¡ apples ¡and ¡they ¡were ¡individually ¡wrapped, ¡so ¡ they ¡are ¡indis-nguishable. ¡Given ¡there ¡are ¡ 70% ¡of ¡fuji, ¡ ¡if ¡I ¡want ¡to ¡know ¡what ¡is ¡the ¡ probability ¡I ¡get ¡7 ¡fuji ¡in ¡20 ¡apples? ¡What ¡is ¡the ¡ distribu-on ¡I ¡should ¡use? ¡ A. ¡Bernoulli ¡ ¡ ¡B. ¡Binomial ¡ ¡ ¡ ¡C. ¡Geometric ¡ ¡ ¡ ¡ ¡ x ¡ D. ¡Poisson ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡E. ¡Uniform ¡ ¡

Q. ¡ ✺ A ¡store ¡staff ¡mixed ¡their ¡fuji ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡and ¡gala ¡ apples ¡and ¡they ¡were ¡individually ¡wrapped, ¡so ¡ they ¡are ¡indis-nguishable. ¡Given ¡there ¡are ¡ 70% ¡of ¡fuji, ¡ ¡if ¡I ¡want ¡to ¡know ¡what ¡is ¡the ¡ probability ¡I ¡get ¡7 ¡fuji ¡in ¡20 ¡apples? ¡What ¡is ¡the ¡ distribu-on ¡I ¡should ¡use? ¡ What ¡is ¡the ¡ probability ? ¡

Q. ¡ ✺ A ¡store ¡staff ¡mixed ¡their ¡fuji ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡ ¡and ¡gala ¡ apples ¡and ¡they ¡were ¡individually ¡wrapped, ¡so ¡ they ¡are ¡indis-nguishable. ¡Given ¡there ¡are ¡ 70% ¡of ¡fuji, ¡ ¡if ¡I ¡want ¡to ¡know ¡what ¡is ¡the ¡ probability ¡I ¡get ¡7 ¡fuji ¡in ¡20 ¡apples? ¡What ¡is ¡the ¡ distribu-on ¡I ¡should ¡use? ¡ What ¡is ¡the ¡ probability ? ¡ � 20 � (0 . 7) 7 (0 . 3) 13 7