RSA는 공개키 (또는 비대칭키) 암호화 알고리즘 중 하나인데 정수론과 관련이 깊습니다. 아주 큰 숫자의 연산을 modular 연산 등을 사용해서 계산량을 줄이는게 포인트입니다. 기본적인 코딩이 되신다면 RSA 구현하는게 어렵지는 않지만 그마저도 라이브러리 (다른 사람이 이미 만들어놓은 코드)가 다 있을거에요.

+공개키 암호화 시스템에 대해서 간략하게 예를 들자면 대표적으로 인증 시스템이 있습니다. 공개키와 비밀키는 항상 쌍으로 존재합니다. 이 때 암호화를 하는 입장에서 공개키는 모든 사람이 볼 수 있도록 공개하고 비밀키는 숨겨서, 비밀키로 내용을 암호화하면 푸는 입장에서는 공개키만 알아도 내용을 확인해 볼 수 있습니다. 하지만 비밀키를 모르면 암호화를 하는 것이 불가능하기에 비밀키를 아는 사람만이 인증된 내용을 전송할 수 있는 거죠.

분산컴퓨팅시스템은 어려운 주제입니다. 전공자도 어려워하는 내용이라 제가 말씀드릴 건 별로 없는 것 같네요. (큰 문제를 어떻게 세분화해서 소단위로 계산하고 그 결과를 통합할지를 생각해야 합니다. MapReduce 모델을 한번 찾아보세요.) P2P도 이 주제와 관련이 있을 것 같지만 전 잘 모르겠네요. 기본적으로 코딩 실력이 상당한 수준에 올라야 분산컴퓨팅을 다루는 것이 가능합니다.

네트워크도 상당히 방대한 주제인데 구체적으로 네트워크를 어떤 목적으로 왜 공부하고 싶으신 건가요? 네트워크는 전달하고자 하는 데이터가 어떻게 포장되어 목적지를 찾아가도록 할 수 있을지에 관한 내용입니다. OSI 7계층이나 TCP/IP에 대해서 들어보셨나요?