Java NIO / 논블로킹 / 비동기 방식

IO와 NIO

자바에서 소켓 통신을 구현하기 위해서는 io 또는 nio 패키지를 활용하게 될 것이다. 자바 4부터 새로운 입출력이라는 뜻에서 java.nio 패키지, 자바 7부터 네트워크 지원을 강화하여 java.nio 패키지를 업그레이드 했다.

 

IO는 스트림(Stream)이라는 단방향 통로로 외부 데이터와 통신

NIO는 채널(Channel)이라는 양방향 통로로 외부 데이터와 통신

▶ NIO는 읽기/쓰기를 하나의 통로로 해결할 수 있다.

 

IO는 입출력 시 버퍼를 사용하지 않지만, 필터 스트림을 사용할 수는 있음

NIO는 입출력 시 버퍼를 사용함

▶ NIO는 버퍼를 사용하여 입출력 속도가 빠르다.

 

IO는 블로킹 방식만 지원하여 스레드를 생성하고 없애는데 큰 비용이 들어감

NIO는 블로킹/논블로킹 방식 중 선택하여 사용할 수 있음

▶ NIO는 논블로킹 방식을 지원한다.

 

	IO	NIO
입출력 방식	스트림 방식	채널 방식
버퍼 방식	넌버퍼	버퍼
비동기 방식	지원하지 않음	지원
블로킹/논블로킹 방식	블로킹 방식만 지원	블로킹/논블로킹 모두 지원

---

스트림과 채널

• 스트림은 단방향, 채널은 양방향
• 채널은 비동기적으로 그리고 논블로킹 방식으로 사용 가능
• 채널은 항상 버퍼를 사용하여 데이터를 읽거나 씀

- Stream

스트림은 들어온 순서대로 한 바이트씩 제공하는 단방향 통로이다.

기본적으로 byte 기반이고, 성능을 위해 byte[] 형태의 데이터를 전달할 수도 있다.

읽을 때는 InputStream, 쓸 때는 OutputStream으로 구분해서 사용한다.

읽고 쓰는 작업을 지시한 후에는 그 작업이 끝나야 return되는 blocking 방식이다.

 

- Channel

채널은 버퍼 안에 있는 데이터 블록을 전달하는 양방향 통로이다. 채널을 통한 입출력은 무조건 버퍼를 사용해야 한다.

스트림은 blocking 방식으로 동작하며 버퍼를 사용하지 않아 입출력 속도가 느리다는 점을 개선한 것이다. 

양방향이기 때문에 input/output을 구분하지 않는다.

blocking 방식과 non-blocking 방식을 모두 지원하여 과도한 스레드 생성을 피할 수 있다.

---

넌버퍼와 버퍼

- buffer

버퍼는 읽고 쓰기가 가능한 메모리 배열이다. 더 자세히는 버퍼는 고정된 크기의 메모리 블럭을 래핑한 객체이다.

NIO에서는 데이터를 입출력할 때 채널을 사용한다.

채널을 통해 입출력할 때 데이터는 채널에서 읽혀 버퍼로 쓰여지거나, 버퍼에 있는 데이터가 채널로 쓰여진다.

 

스트림을 사용할 때 출력 스트림이 1바이트를 쓰면 입력 스트림이 1바이트를 읽는다. 따라서 속도가 느리기 때문에 버퍼를 사용해 복수 개의 바이트를 한 번에 입력받고 출력하는 것이다. (그래서 IO에서는 버퍼와 같은 기능을 제공해주는 보조 스트림인 BufferedInputStream, BufferedOutputStream을 사용하기도 한다.)

 

버퍼는 메모리 블럭으로 데이터를 읽거나 쓰기 위해 내부적으로 중요한 값이 있다.

• 용량(capacity): 버퍼가 보유할 수 있는 최대 요소 수, 버퍼 생성 시 설정하고 변경 불가
• 위치(position): 메모리 블럭에 접근해야 하는 포인터 (디폴트 0, 최댓값은 버퍼의 크기와 같음)
• 한도(limit): 버퍼에서 접근할 수 있는 데이터의 끝 
• 표시(mark): 버퍼에서 클라이언트에 제한된 인덱스

* 쓰기 모드와 읽기 모드가 따로 있는 것은 아니고 position, limit 값을 바꿔주는 것

 

IO에서는 읽는 데이터를 저장하지 않고 즉시 처리하지만, NIO는 버퍼에 저장하고 버퍼 내에서 위치(포인터)를 이동해가며 필요한 부분만 읽고 쓸 수 있다.

---

동기 방식과 비동기 방식

- 동기

클라이언트가 서버에게 요청을 보내면 그 작업이 끝날 때까지 기다렸다가 결과값을 받아 처리하는 방식

하나의 작업이 끝나면 다른 주체가 작업을 시작하는 것

- 비동기

클라이언트가 서버에게 요청을 보내면 그 결과를 기다리지 않고 다른 작업을 하다가 결과 값이 왔다는 callback 신호를 받으면 처리하는 방식

---

블로킹과 넌블로킹

• 자바에서 블로킹 소켓은 ServerSocket, Socket
• 자바에서 논블로킹 소켓은 ServerSocketChannel, SocketChannel

- blocking

요청한 I/O 작업이 완료되지 않으면 응답을 돌려주지 않고 대기하며 그동안 다른 작업을 할 수 없다.

스레드를 사용하여 해결할 수 있지만 요청 수만큼 스레드를 생성하고 반납하는 방식은 한계가 있다.

💡 스레드의 개수는 힙에 할당된 메모리 크기에 의존하는데, 관리해야 할 스레드 개수가 늘어나면 가비지 컬렉션의 수행속도가 감소한다.

💡 많은 스레드가 Context Switching을 하면서 오버헤드를 발생시킨다.

 

* Context Switching: cpu를 점유하기 위한 상태변경

 

- non-blocking

셀렉터에 여러 클라이언트의 소켓을 바인딩시키고 하나의 싱글 스레드로 관리하는 방식이다.

셀렉터는 주기적으로 채널에 데이터가 들어왔는지 확인하고 버퍼가 비어있으면 바로 다음 요청을 받는다.

입출력 작업 준비가 완료된 채널만 선택하여 작업 스레드가 처리하기 때문에 스레드가 블로킹되지 않는다.

📚 동기와 비동기, 블로킹과 논블로킹의 차이
- 동기와 비동기
서비스나 함수의 동작 방식, 연관된 작업을 처리하는 방식
작업을 수행하는 주체가 두 개 이상이어야 함
- 블로킹과 논블로킹
소켓의 동작 방식
작업의 대상이 2개 이상이어야 함

동기/비동기, 블로킹/논블로킹 비교 참고 링크 : https://deveric.tistory.com/99

---

논블로킹 채널 동작방식

NIO의 동작방식에는 핵심 객체인 셀렉터가 있다. 셀렉터는 단일 스레드에서 데이터를 위한 여러 채널들을 모니터링하고 이벤트를 감지하여 작업을 처리한다.

 

블로킹 방식에서는 클라이언트의 연결 요청이 언제 들어올지 모르기 때문에 accept() 메서드에서 블로킹 된다. 그리고 클라이언트가 언제 데이터를 보낼지 모르니 read() 메서드는 항상 데이터를 받을 준비를 하며 블로킹 된다.

 

while (true) {
	SocketChannel socketChannel = serverSocketChannel.accept();
    ...
}

 

클라이언트의 요청 당 스레드를 생성하고 없애는 과정을 반복하기 때문에 접속 수가 많아지면 성능 문제가 생기는 것을 해결하기 위해 셀렉터를 사용할 수 있다.

 

논블로킹은 이벤트 리스너 역할을 하는 Selector를 사용해 멀티 채널의 작업을 싱글 스레드에서 처리한다.

 

• 클라이언트가 요청을 하면 채널은 자신의 작업 유형을 키로 생성
• 셀렉터의 관심 키셋에 키 등록
• 셀렉터는 작업 처리 준비가 된 키를 선택
• 선택된 키셋에 별도로 저장
• 작업 스레드는 선택된 키셋에서 키를 하나씩 꺼냄

 

 

참고자료 및 출처 🙇‍♂️

https://dev-coco.tistory.com/44

https://codevang.tistory.com/185

https://hbase.tistory.com/37

https://lelumiere.tistory.com/14