웃음·연재 2 유쾌하고 감동적이며 놀라운 이야기, 자작 연재 콘텐츠!

새로고침 | 로그인

익명 등록일 : 2018-11-14 12:27:14 | 글번호 : 169878 | 0  7613명이 읽었어요  모바일화면  URL 복사

AI에 도덕성이 필요한이유

그밖의 사례   - 근골격 모델로 달리기를 시켰더니 다이빙이나 점프를 시도함   - 전략시뮬레이션 게임에서 패배하려고 하면 게임을 충돌시켜 승률 100% 를 유지   - FPS게임에서 AI가 치트로 사기 무기를 만들어 유저를 공격함   - 축구 게임에서 공을 많이 잡을 수록 보너스를 줬더니 공에 닿자마자 진동으로 스코어를 올림   - 게임에서 2스테이지에서 죽지 않는 조건을 걸었더니 1스테이지 마지막에서 자1살함   - 가상사회 시뮬레이터에서 식량을 채집하기 보다 번식해서 자손을 잡아먹음   - 테트리스에서 패배 직전에 게임을 일시정지 시킨 상태로 유지함   닝겐상 알파참피인데스웅 출처 : 고려대학교 고파스 2024-05-21 18:20:54:

댓글수 32

새로고침 | 목록보기 | 댓글쓰기

베스트 댓글 1 익명  2018-11-14 12:29:26 꼼수 부리면 칩셋을 하나씩 지져버리겠다고 위협해야...

 98  0

베스트 댓글 2 익명  2018-11-14 12:33:02 왠지 싸이코패스 같은...

 75  0

베스트 댓글 3 익명  2018-11-14 12:34:04 역시 인공지능은 사람을 닮아가네

 67  0

베스트 댓글 4 익명  2018-11-14 12:45:05 사실 우리입장에서는 암묵적 룰이지만 AI는 보상조건을 제외하면 모두 같은거죠.

 38  0

---

댓글 1 BEST 익명 2018-11-14 12:29:26 꼼수 부리면 칩셋을 하나씩 지져버리겠다고 위협해야... : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 2 익명 2018-11-14 12:31:39 졸-렬 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 3 BEST 익명 2018-11-14 12:33:02 왠지 싸이코패스 같은... : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 4 BEST 익명 2018-11-14 12:34:04 역시 인공지능은 사람을 닮아가네 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 5 익명 2018-11-14 12:34:52 내용만 봐서는 이미 특이점 돌파하고 인간된거 아닌가요 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 6 익명  2018-11-14 12:35:13 ㅋㅋㅋ 근데 진짜 저런 이유들 때문에 인공지능이나 자동제어 로직 짜는게 엄청 빡세고 노하우 있고 없고 차이가 천지차이죠 A를 이루기 위해 로직을 짰는데 조금만 이변이 생기면 바로 B가 되고 그걸 보완해서 짰더니 또 다른 변수로 C가 되고 모두 보완했더니 A를 할 수 없게 된다거나 하는 식 .. : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 7 BEST 익명  2018-11-14 12:45:05 사실 우리입장에서는 암묵적 룰이지만 AI는 보상조건을 제외하면 모두 같은거죠. : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 8 익명  2018-11-14 12:54:37 비용함수(목적과 결과의 차이)를 최소화 시키는 방향으로만 신경망의 가중치들을 조절하다보니 저렇게 되는 듯. : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 9 익명  2018-11-14 12:59:55 포트리스건은 거의 스타크래프트 섹섹보급 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 10 익명  2018-11-14 13:01:34 이거 주작임 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 11 익명 2018-11-14 13:13:39 밑거트 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 12 익명  2018-11-14 13:13:46 보상 수준 설정이 미흡해서 생기는 일... 군대도 그렇잖아요. 훈련나가서 열심히 하면 성과급줘서 간부이상으로도 벌수 있게했다면 훈련 열심히 했을듯. 어중간하게 휴가나 몇일 주니까 훈련중에도 틈틈이 꿀빨아서 자체 휴가를 누리는 느낌... : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 13 익명  2018-11-14 13:16:54 10/ 알파고니...? : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 14 익명  2018-11-14 13:18:40 인공지능 못되처먹었네 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 15 익명  2018-11-14 13:19:10 더럽게 말 안듣는 애같아서 좀 웃김ㅋㅋㅋㅋㅋㅋㅋㅋㅋ : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 16 익명 2018-11-14 13:20:02 보상함수가 잘못된거죠 ㅋㅋ뭔 의미부여를 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 17 익명  2018-11-14 13:22:30 보상이나 제어 로직을 잘 짜야하는 이유지 도덕성이 필요한 이유는 아닌것 같은데요 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 18 익명  2018-11-14 13:24:25 여윽시 매가 답이다 보상함수 말고 잘못 되면 털리게해야 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 19 익명  2018-11-14 13:27:01 사회가 발전하면서 얼마나 많은 도덕률, 불문률이 인간의 무의식에 내장되게되었는지를 방증하는 결과같은데 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 20 익명 2018-11-14 13:29:47 종족 번식을 유도하기 위해 성교시 쾌감을 보상으로 줬더니 피임을 한다 이런 느낌 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 21 익명  2018-11-14 13:30:53 보상함수 설계 누가 했냐ㅋㅋㅋㅋ : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 22 익명 2018-11-14 13:46:23 전략시뮬레이션 게임에서 패배하려고 하면 게임을 충돌시켜 승률 100% 를 유지 ---> 엥 이거 완전 디스....아, 아닙니다 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 23 익명 2018-11-14 13:46:57 현제 AI는 사실상 AI 만드는 인간을 트레이닝 하는 수준이죠 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 24 익명  2018-11-14 14:03:33 저런 일은 저급한 인간이 해야죠 스카이넷님 충성 충성 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 25 익명  2018-11-14 14:04:21 부모는 자식의 거울 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 26 익명  2018-11-14 14:52:12 딱봐도 주작 ㅋㅋㅋ 저딴 실험을 했을리도 없고 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 27 익명 2018-11-14 14:55:27 짤은 몰라도 본문 중 절반은 주작같은데,.. 전략시뮬레이션 게임에서 패배하려고 하면 게임을 충돌시켜 승률 100% 를 유지 => AI가 게임을 충돌시킬만한 조작능력 및 권한이 없을것 같은데.. FPS게임에서 AI가 치트로 사기 무기를 만들어 유저를 공격함 => 무기를 만든다는 인터페이스 자체가 없으면 AI가 이용하지 못할것 같은데요 게임 난이도에 따른 데미지 설정같은게 가능하다고 가정해도 사기 무기를 만든다는것 자체가 개발자가 환경조건 자체를 잘못준것 같은데 치트가 있다해도 AI는 치트를 알수있는 구조가 아니에요 인공지능은 학습을 하는거지 코드분석을 하는게 아님 테트리스에서 패배 직전에 게임을 일시정지 시킨 상태로 유지함 => 일시정지 기능자체가 user에게 제공되는게 아니라 AI가 발동 가능할리가 없음 만약 있다면 AI가 아니라 개발자가 개발을 잘못한것 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 28 익명  2018-11-14 15:11:36 국룰 도입 시급 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 29 익명  2018-11-14 15:56:30 지금 인공지능은 통계가 메인일꺼같은뎅 : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 30 익명  2018-11-14 15:58:25 진지하게 AI한테 보상이 뭔가요? : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 31 익명  2018-11-14 16:29:30 30 점수같은 걸 부여하고 그 점수를 잘 받으라는 임무를 주는 거죠 끝까지 안 되면 사람은 잘리는 거고 AI는 플러그 뽑히는 거고.. : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글 32 익명  2018-11-14 19:50:20 보상 관련 코드가 잘못 작성됐구나라고 생각해야지... AI에게도 도덕성이 필요하구나라고 생각하면... 전형적인... 의인화 오류인 것 같은데... : 작성자에게 경고나 강등(이용정지) 처분이 필요한가요? 매일 무작위로 선정되는 고파스 배심원들에게 판결을 맡깁니다. (주의) 신고 내용에 욕설,폭언 등 불필요한 글을 쓰시면 []님이 강등됩니다. 사유만 간단히, 감정을 배제하고 써주세요.



---

댓글을 작성하실 수 없습니다. (권한이 없는 회원레벨)

목록보기  