기다려주세요
도도동짱
전체 방문자
오늘
어제
  • 전체보기 (65)
    • Diary - Life (9)
    • Diary - IT (7)
    • Data Science (6)
    • CS & Programming (20)
    • Debugging (3)
    • Papers (10)
    • Project (3)
    • Lecture (7)

블로그 메뉴

  • 홈
  • 태그
  • 방명록
  • Github
  • Instagram

공지사항

  • 김동혁입니다 :)

인기 글

태그

  • Linux
  • 프로젝트
  • 네이버 개발자 오픈클래스
  • 알고리즘
  • python
  • segmentation
  • weakly supervised learning
  • WSSS
  • GIT
  • joblib
  • 회고
  • 파이썬
  • attribution method
  • 우분투
  • polyp segmentation
  • 리눅스
  • weakly supervised semantic segmentation
  • numpay
  • Deep learning
  • 에러
  • 일상
  • 취업
  • 개발
  • 디버깅
  • 프로그래밍
  • ubuntu
  • 빅데이터
  • 투자
  • Transformer
  • gpt4

최근 댓글

최근 글

기다려주세요

Debugging

python joblib 에러: _pickle.PicklingError: Could not pickle the task to send it to the workers 해결하기

2022. 12. 26. 10:43

python으로 많은 양의 이미지를 처리하기 위해 위 코드로 병렬 연산을 하려고 했는데, 다음과 같은 에러가 떴습니다.

 

Parallel(n_jobs=8)(delayed(get_disparity)(idx) for idx in z)
_pickle.PicklingError: Could not pickle the task to send it to the workers.

 

 

joblib은 기본적으로 백엔드 모듈을 'locky'로 사용하고 있습니다. 이를 'threads'로 바꾸어줍시다.

Parallel(n_jobs=8, prefer='threads')(delayed(get_disparity)(idx) for idx in z)

해결 완료!


자세한 내용은 제가 포스팅했던 이 게시물에 있습니다.

 

python joblib으로 병렬 프로그래밍을 해보자

효율적인 프로그래밍을 위해 병렬 프로그래밍을 하곤 합니다. 특히 대용량의 데이터을 처리할 때 필수적이죠. joblib은 파이썬 프로그래밍에서 병렬처리를 가능하게 만들어줍니다. 파이썬에는

lovedh.tistory.com

 

저작자표시 동일조건 (새창열림)

'Debugging' 카테고리의 다른 글

ValueError: The truth value of an array with more than one element is ambiguous. Use a.any() or a.all() 해결법  (0) 2023.01.05
python 에러: UnboundLocalError: local variable 'tmp' referenced before assignment  (0) 2023.01.02
도도동짱
Working on it, Walking on IT
Designed By 정상우.

티스토리툴바