1 / 67

Unreliable Computer

Computer Ethics on. Unreliable Computer. Smart weapon. Sg 8 안선민 김경현 정주연. A.I. HumanCloning Cyborg. contents. part I Unreliable computer 1. Gilb’s laws of unreliability 2. Definition 3. Cases – causes of unreliability 4. Reliability models /metrics

graceland
Download Presentation

Unreliable Computer

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Computer Ethics on Unreliable Computer Smart weapon Sg 8 안선민 김경현 정주연 A.I. HumanCloning Cyborg

  2. contents part I Unreliable computer 1. Gilb’s laws of unreliability 2. Definition 3. Cases – causes of unreliability 4. Reliability models /metrics 5. Reliability engineering/fault tolerance/ s.w. testing 6. Conclusion 7. References

  3. contents part II Smart weapon 1. Smart weapon의 정의 2. Smart weapon의 종류 3. 문제점과 윤리성

  4. contents part III A.I. Human cloning Cyborg 1. A.I 2. Human cloning 3. Cyborg

  5. Part IUnreliable computer

  6. Gilb’s Laws of Unreliability • Computers are unreliable, but humans are even more unreliable. • At the source of every error which is blamed on the computer you will find at least two human errors, including the error of blaming it on the computer. • Any system which depends on human reliability is unreliable.

  7. Gilb’s Laws of Unreliability • A system tends to grow in terms of complexity rather than of simplification. • Undetectable errors are infinite in variety, in contrast to detectable errors, which by definition are limited. • All real programs contain errors until proved otherwise- which is impossible.

  8. Definition of Reliability Reliability is the ability of a system or component to perform its required functions under stated conditions for a specified period of time. IEEE Standard Computer Dictionary New york, NY: 1990

  9. Hardware Failure Rate curve

  10. Software Failure Rate curve

  11. Cases Space shuttle Challenger Accident • 1986년 1월 28일 Challenger호 발사 73초 만에 폭발 • 일곱 명 승무원 전원 사망 • 우측 Booster 이음새 이상으로 액체 연료 대량 유출

  12. Cases Computerized vote counting • 1992년 전산화된 투표방법을 채택하는 미국인이 2/3에 이름 • Historical cases • Accuracy and reliability

  13. Cases Chernobyl accident • 1986년 Chernobyl 원자력 발전소 화재, 방사능 유출 • 31명 즉사, 노동자 15000명 사망 5백만명 방사능 노출 • Reactor 설계상의 결함이 원인

  14. Cases Computer error in US banking • 1996년 5월 First National Bank Chicago 약 800명의 고객 잔고가 실제보다 $924,000,000 많게 표시됨 • 컴퓨터 프로그램을 교체하는 과정에서 오류 발생 Telephone outage • 1991년 California일대 전화 시스템 정지됨 • Signaling software의 오류 –세 줄의 code를 고침으로써 발생

  15. Cases Therac-25 • 1986 두 암환자가 Therac-25으로 치료 중 치명적 방사능에 노출됨 • 안전 hardware 장치를 제거함으로써 발생 New Jersey murder case 1992년 New Jersey주 죄수가 컴퓨터가 감시하는 감옥을 탈출. 이를 감지한 컴퓨터가 다른 컴퓨터를 부를 때 busy signal을 받아 보고 실패함

  16. What causes Unreliability? • Difficulty in specification • Commercial pressures & tight deadlines • Featuritis

  17. Reliability models Reliability Analysis Center, Introduction to Software Reliability. Reliability Analysis Center (RAC), 1996.

  18. Reliability metrics • Product metrics • Project metrics • Process metrics • Fault and failure metrics

  19. Reliability Engineering • function of analyzing the expected or actual reliability of a product, process or service, and identifying actions to reduce failures or mitigate their effect. • Reliability prediction • FMEA/FMECA • Fault tree • Maintainability prediction

  20. Reliability Engineering Reliability prediction - The analysis of parts and components in an effort to predict the failure rate of an item. - Based on an established model - MIL-HDBK-217 - Telcordia

  21. Reliability Engineering Failure Mode and Effects Analysis(FMEA/FMECA) • a bottoms up approach to analyzing system design and performance. • a list of potential failure modes for each lowest level • Effects of each potential failure mode Fault Tree Analysis (FTA) - a deductive, top-down method - top event - graphically using a logical structure of AND and OR gates

  22. Fault tolerance • The ability of a system to respond gracefully to an unexpected hardware or software failure. • Many levels of fault tolerance • Every operation is performed on two or more duplicate systems

  23. Software testing • Test data • Test case design Tests for each development step system 요구사항 인수 test 요구 명세서 system test system 설계 통합 test 상세 설계 module test

  24. conclusion • Systems are getting embedded and it causes more technical risks. • Can never assure reliability. • Inadequate reliability improvement techniques • Professionalism & slow, careful and costly development processes are required. For a successful technology, reality must take precedence over public relation, for nature cannot be fooled. - R.P.Feynman

  25. References • http://courses.ncsu.edu.classes-a/computer_ethics • www.ercim.org • Institute for telecommunication science • http://www-cse.stanford.edu/class/cs201 • www.byte.com • http://mtprof.msun.edu/Win1995/LevRev.html • www.cnn.com • http://www.gwu.edu/~cms/aviation/track_ii/neumann.html • www.mospec.com • www.webopedia.com • http://salmosa.kaist.ac.kr/~cs450/

  26. part IISmart weapon Smart weapon의 정의 Smart weapon의 종류 문제점과 윤리성

  27. Smart weapon

  28. Smart weapon 정의 • 우리나라에서는 ‘스마트 무기’라고 부름 • 목적(장점) : 민간인의 인명 피해를 최소화 하면서 공격효과를 극대화 • 단점 : 어마어마한 비용 • 방법 1. 레이저 • 방법 2. TV 카메라 • 방법 3. 위성위치확인시스템(GPS) • Smart war • 프로그래머에게 smart weapon의 의미

  29. Smart weapon 종류 • 무인공격기

  30. Smart weapon 미사일 Smart bomb JDAM

  31. Smart weapon • 비살상 무기 * 흑연 폭탄 * E - 폭탄 • 민항기 탑재 레이저 • 벙커 버스터

  32. Smart weapon 문제점과 윤리성 • 소프트웨어적 장치들과 GPS 등을 이용하는 것이기 때문에 오작동 가능성을 가지고 있다 • 정말 smart 한가? • 실제로 이번 이라크 전에서 smart bomb가 오폭하는 사고 발생 * 민간인에게도 큰 피해, 엉뚱한 나라 공격 * GPS 교란장치(GPS Jammer) 가 주된 원인

  33. Smart weapon References http://www.defence.co.kr/weapon/afghan.html http://www.dt.co.kr/content/2003032102010551708002.html • http://nowworld.pe.kr/future-weapon.htm • www.timripley.co.uk/g_smart_weapons.html • http://www.kmib.co.kr/ • www.kmib.co.kr • www.khan.co.kr

  34. partIIIA.I. Human cloning Cyborg

  35. Artificial intelligence 인간의 지능을 가진 컴퓨터?

  36. Artificial intelligence 정의 및 목적 • 인간의 지능을 컴퓨터가 대행할 수 있도록 하는 방법을 연구하는 컴퓨터 공학 및 정보기술 • 인간의 지능에는 사고능력, 지식습득/이용능력, 사물의 인식/조작능력, 새로운 상황이나 환경에 대처하기 위해 배우고 이해할 수 있는 능력 등이 있다 • A.I. 의 목적은 기계가 보고 듣고 이해하고 움직이고 말을 하는 등의 능력을 가지고 인간의 일을 대신하도록 하는 것이다

  37. Artificial intelligence A.I. 의 응용영역 • 산업 –시장 및 재정정책 조언, 인력배치, 뉴스요약, 문서작정 등 • 공학 –설계내용 검토 및 참조, 신상품 개발 등 • 제조 –위험하거나 지루한 조립, 검사, 보존업무 대행 등 • 농업 –병충해 제거, 혼합작물 분류 등 • 병원 –질병진단, 환자상태 관측/치료 등 • 가정 –물품구매, 요리, 청소, 세탁 등 유지보수업무 대행 • 기타 –체스, 바둑 등 게임, 비행기 예약문제, 고객서비스 지원 등

  38. Artificial intelligence A.I. 의 연구 분야 (5가지) 1/2 • 자연언어처리 (natural language processing) * 자동번역 * 컴퓨터와 인간의 대화 • 전문가 시스템 (expert system) * 현재 인간이 하고 있는 여러 가지 전문적인 일 • 영상 및 음성 인식 * 영상을 잡고, 분석하고 판별 * 음성을 문장으로 변환 * 문자인식, 로봇 공학의 핵심 기술

  39. Artificial intelligence A.I. 의 연구 분야 (5가지) 2/2 • 이론증명 (theorem proving) * 논리적 추론 * 여러 분야에서 사용되는 필수적 존재 • 신경망 (neural net) * 인간의 지능과 거의 가까운 프로그램, 데이터구조 시스템 * 퍼지 이론 –인간의 애매한 표현, 자료에도 처리할 수 있게

  40. Artificial intelligence 개발 사례 미모트 (MIMOT)– 2001년 * 인간형 인공지능 시스템 * 한국과학기술연구원(KIST) 지능제어 연구센터 개발 * 동물이나 곤충의 생체 시스템 모방 * 자연스러운 팔과 빠른 눈동자 중앙일보

  41. Artificial intelligence 그림 그리는 컴퓨터 Arron– 2001년 * 미국 UC샌디에고 해롤드 코헨 교수의 평생 연구 작 * 코헨 교수가 프로그래밍한 소프트웨어와 그림 그리는 기계장치 연결 조선일보

  42. Artificial intelligence CYC 프로젝트 • 미국 텍사스 소재 민간 연구 단체 MCC의 인공지능 컴퓨터 연구 코드명 • 지난 10년간 50만개 이상의 사실, 원칙, 추론 기법 등을 입력 • 2020년이면 새로운 지식을 만들어내는 컴퓨터 탄생가능

  43. Artificial intelligence 국내 연구 • 인공지능학계 KAIST 김진형 교수님 * 필기인식 기술, 신경망과 히든마코브 모델을 이용한 패턴인식 * 팬 컴퓨터 인식기 개발, 특허 • 포항공대 홍기상 교수님 * 가상물체 삽입 실현 * 카메라 자동 보정기법, 영상모자이크, 해상도 향상기법 • 연세대 이일병 교수님 * 패턴인식, 문서인식, 데이터 마이닝, 인지과학 등

  44. Artificial intelligence 생각해 볼 문제 • A.I. 는 얼마나 믿을 수 있는 것인가 • A.I. 에게도 존엄성이 있는 것인가 • A.I. 가 악용될 가능성

  45. Human Cloning • 인간복제기술이란 -생명복제기술 ‘한 개체와 동일한 유전자 세트를 지닌 새로운 개체를 만드는 기술’ 1) 추상적 의미의 인간복제 2) 인간개체복제 3) 인간배아복제(human embryonic cloning) 4) 장기복제(organ cloning)

  46. Human Cloning 인간복제기술 (1)추상적 의미의 인간복제 • 추상적인 의미에서의 인간복제는 어떤 인간과 모든 면, 즉 유전형질뿐 아니라 외모, 성격, 감정, 취미, 능력, 기억 등이 똑같은 인간을 만드는 것을 의미한다. (2)인간개체복제 • 인간개체복제(human individual cloning)는 한 인간과 유전적으로 동일한 다른 인간을 만드는 방법이다.

  47. Human Cloning 인간복제기술 (3)인간배아복제 - 수정란 분할법 - 체세포 핵분열 인간배아복제는 인간개체복제와 기술적으로는 동일하나 그 목적이 개체를 얻으려는 것이 아니라 완전히 분화되기 전의 배아기간세포(embryonic stem cell)를 얻거나 그에 이르기까지의 과정을 연구하려는 것이다.

  48. Human Cloning 인간복제기술 (4)장기복제 • 한 개의 세포를 이용하여 그 세포가 원래 속해있던 전체 장기를 복제하려는 것 아직은 불가능 하지만 세포의 역분화 과정이 완전히 이해된다면 불가능한 일이 아닐 수도 있다. Ex) 최근에 성공한 사람 귀 모양의 연골 세포를 쥐에게서 배양한 실험 등이 이에 속한다고 볼 수 있는데 이런 연구에서는 수정란을 사용하지 않으므로 심각한 윤리적인 문제는 제기되지 않고 있다.

  49. Human Cloning 사례 (1) • 1996년 7월 5일 탄생 • 2003년 2월 폐종양으로 안락사 • 6년 된 암양의 유선세포에서 유전정보를 추출, 핵이식을 통해 탄생한 돌리는 2001년 비만증세를 보여 다른 양들과 격리돼 식이요법 치료를 받았으며, 지난해에는 왼쪽 뒷다리와 무릎에 관절염이 생기는 등 빠른 노화 증세를 보였다.

  50. Human Cloning 사례(2) • 클로네이드사가 2002년 12월 26일 첫 복제아기 이브를 출생시켰다는 주장을 하고 있다. • 지금까지 다섯명의 복제아기를 출생시켰다고 주장하고 있다. http://www.rael.org/int/korean/seminars/seminars.html

More Related