image
imagewidth (px)
256
10.7k
text
stringlengths
5
2k
width
int32
256
10.7k
height
int32
256
10.4k
소닉기어 에어폰5 휴대용 스테레오 블루투스 헤드폰
256
256
배우 이제훈이 항일 작품에 연달아 출연한 이유 #아이캔스피크
452
256
중국 제조자 광고를 위한 옥외 풀 컬러 LED 디지털 Signage
256
256
8.8oz 밝은 파란색 호리호리한 숙녀 청바지 (HYQ90-01)
341
256
닭 경영관리
256
359
금강제화상품권20만(10만X2장)/랜드로바/구두티켓
256
256
PVC 지면을%s 튼튼한 자동 접착 밑받침
256
256
소니 하이엔드 액션캠 AS100V
458
256
BT326 C타입 to 3.5mm오디오 동시 연결 젠더 컨버터
256
256
외국인 바이어들, 미국 부동산에 등 돌린다…왜?
384
256
C35 별 LED 전구 보충 빛 0.6W LED 글로벌 전구
256
256
[30%다운쿠폰]오르지오 ORGIO 유기농 황설탕 7kg~10kg/ 올바른 먹거리 과일즙/올리브오일
256
256
더 많은 것 300의 디자인 LED 플라스틱 가구 LED 정원 입방체 의자
256
256
아이패드 에어 3세대 iPad Air 3 10.5 LTE 64GB 골드 MV0F2KH/A
256
256
카파 D2100 소형 액자형 벽탁상겸용 디지털시계
256
256
T61P型压力变送器
320
256
픽 모듈 미끄럼방지 강아지매트 1p 5colors
256
256
꽃 아트 데코 3D 홈 벽지 콘템포라리 벽 취재 , 캔버스 자료 접착제가 필요 벽화 , 룸 Wallcovering 협력
256
256
이신범 한국LPG산업협회 신임 회장
256
319
슈엣뜨 샤폐(CHOUETTE SAPE) (유니섹스) 파이프맨 로고 스웻셔츠 C418SW001-BK
256
286
호스 및 피팅 유압 압착 기계
256
344
프랑스 리옹에서 열린 EVS32 차데모 부스에 마련된 시그넷이브이의 초급속 충전기.
256
341
(온1500) SK그룹, 쿠알라룸푸르서 글로벌 전략회의… 최태원 회장 주재
394
256
썰매 대결부터 김밥 놀이까지! 여배우들이 꽁꽁 언 한탄강에서 노는 법
452
256
김남국 국회의원20200629.jpg
386
256
키치 기모 체크 잠옷 파자마세트
256
256
[반려동물 산업과 제도 뜯어보기]
864
256
다이어리~친오빠 녹취까지…사라진 장자연 기록들
460
256
스티그마타 포스터
256
373
英경찰, 화물차 컨테이너에서 시신 39구 발견…운전사 체포
384
256
고품질 상업적인 아BS Barstool 바 의자 (LL-BC022)
318
256
백색 무지크라프트 트위스트 종이쇼핑백(중) 50매
256
256
10.1 인치 차 사진기 스캐닝 기능 TFT 디지털 모니터 시스템
256
256
중국 공급자에게서 고품질 피자 자동 판매기
256
256
WRC 7 FIA 월드 랠리 챔피언십
547
256
어린이 자치회(임원단) 학교 앞 꽃 가꾸기
277
256
2019 어코드 하이브리드 센터페시아 컨트롤다이얼 5매
256
256
올해 여름휴가는 2017 서울오토살롱으로
256
497
파키스탄에서 박해로 죽은 동료의 장례식장. ⓒ오픈도어선교회
372
256
[대전] 2018 장윤정 라이브 콘서트
256
319
[키즈파람] 원아모집현수막031
256
256
[아미캠프] 밀리터리 바람막이 자켓 ACU 픽셀 군용
256
256
XB-006(수리) 실리콘 주니어 수모 수영모
256
256
침실 가구 Fb915를 위한 방수 뜨개질을 한 직물 덮개를 가진 자연적인 유액 두창 봄 매트리스
256
320
엔진에 의하여 사용되는 윤활 기름 여과 기계 (TYA)
256
261
금속 프레임 (SK-AC2000T-2P-N)에 있는 2 관 에어 컨디셔너 보온장치 접촉 스위치
256
256
시저 14세이상 닭고기 현미와 야채 캔 100g
256
256
【JBL 美國 中置喇叭】STUDIO 120C(英大公司貨)
256
256
새 모델 형식 보석 크라운 디자인 반지 은 925
256
256
북유럽 디자인
256
372
Montebelle - 青花瓷印花盖袖旗袍
256
256
H002款前掀盖熟食柜 PSG-2000X
378
256
[PT99990096] 삼성 와블 세탁기 13키로
256
256
G200球泡燈
282
256
소니 정품 HDR-CX405 광학30배줌 Full-HD 핸디캠 k
256
256
가든 드레스 (RED)
256
256
2021 전한길 한국사 기출 OX
256
363
[따블리에]유아동 미술가운, 미술 전신복
427
256
日니가타 원전서 화재…방사능 누출은 없어
384
256
한국형 히든 챔피언을 만나다
864
256
black
307
256
[부일]BSS-640T/33kg/높이640x380x410(mm)서류보관금고 문서보관용금고 기업 사무실 서재금고 가정용금고 버튼식금고 화일금고 보험회사서류금고 귀
256
256
dc打造《小丑与小丑女》电影 《疯蠢爱》导演执导
385
256
23번째 확진자의 방문으로 임시 휴업에 들어간 롯데백화점 본점.
408
256
0126_유자차(복음자리)_가격인상안내_상단공지_600.jpg
441
256
ID 3002436 | 꽃 테두리 | 높은 해상도 그림 | CLIPARTO
256
256
시네리터러시(Cineliteracy)
256
363
애견 이발기 바리깡 고양이 강아지 용품 고탄소강 TMG5
256
256
상무스타치과병원, LX공사 광주전남지역본부와 진료 협약
341
256
전술상 군 방탄 조끼 방탄복
256
256
관광서비스 중국어(CD1장포함)
256
351
천안함 10주년 기념 문화제 'MEMORY 2010' 후원인 모집
432
256
월곶문화센터 2층 공간, 특정단체 입주 내정?
455
256
한복 Hanbok : Korean traditional clothes[dress]
256
382
쾌활한 행복한 가족의 건강한 생활 방식은 신선한 과일과 식료품을 냉장고에 넣습니다. 나이든 남편과 아내가 슈퍼마켓에서 도착한 후 식료품 종이 봉지에서 야채를 꺼냅니다.
384
256
프라임 일한/한일사전(Prime Dictionary J-K/K-J)
256
256
제5회 대한민국 지방자치 정책대상
864
256
[해외]PROKMIN Wireless Doorbell Electrical Smart Wireless Doorbell Outdoor Doorbells Chime 55 Music 2 Button 3 Receiver EU / PROKMIN Wireless Doorbell Electrical Smart Wireless Doorbell Outdoor Doorbells Chime 55 Music 2 Button 3 Receive...
256
256
7/14/2013에 Cheng Hui C.님이 Intelligentsia Coffee에서 찍은 사진
256
256
마케터의문장_평면.jpg
256
366
와플 기계 샌드위치팬 메이커 크로플 홈베이킹 브런치팬
455
256
스타캐시 for TWICE(트와이스) icon
256
256
애슬리트(ATHLETE) 남성 고탄력 기능성 스포츠티 MDAT01 앤디 반팔 티셔츠
256
363
강원FC, 경남에 2-1 역전승… 7경기 연속 무패 행진
256
256
정점식 측근 "우호적 기사 써달라" 기자 매수 의혹
363
256
김영삼 대통령 3·1절 기념식 참석
394
256
고품질 중국 A1040m FUJI 광전자적인 센서 Fx-7
386
256
이비스 호텔 베이징 티엔탄 이스트 게이트 스테이션
455
256
쥬라기캅스's Poster
256
366
지난 8월8일 아프가니스탄 카불에서 아슈라프 가니 후보(왼쪽)가 압둘라 압둘라 대선 후보와 통합정부 구성을 위해 노력하기로 합의했다고 밝히고 있다.
389
256
데이터 보안 디지털 정보 기술 배경 문제 스톡 콘텐츠
484
256
마운트존 광유계진공펌프오일 hiren77p 피스톤 타입…
455
256
절제의신 시황방송 17년01월17일(화)
341
256
탑 브랜드 럭셔리 pagani 디자인 남자 시계 크로노 그래프 방수 가죽 쿼츠 시계 남자 패션 스포츠 군사 손목 시계-에서수정 시계부터 시계 의 그룹 1
256
256
효과적인 Heat&Cooling 니켈에 의하여 놋쇠로 만들어지는 격판덮개 열교환기
256
256
[중고] Lifehouse - Stanley Climbfall
256
256
갭갭 해변
341
256
머슬팜 컴배트 단백질 보충제 2.72kg 프로틴 코스트코
256
256
아이캔노트_Screenshot (3)
475
256
궁핍해진 공항, 돈잔치하는 공항 골프장
256
350

laion2b_multi_korean_subset_with_image

img2dataset을 통해 다운로드에 성공한 Bingsu/laion2B-multi-korean-subset 이미지를 정리한 데이터셋입니다.

이미지는 9,800,137장입니다.

이미지는 짧은 쪽 길이가 256이 되도록 리사이즈 되었으며, 품질 100인 webp파일로 다운로드 되었습니다.

Usage

1. datasets

>>> from datasets import load_dataset

>>> dataset = load_dataset("Bingsu/laion2b_multi_korean_subset_with_image", streaming=True, split="train")

>>> dataset.features
{'image': Image(decode=True, id=None),
 'text': Value(dtype='string', id=None),
 'width': Value(dtype='int32', id=None),
 'height': Value(dtype='int32', id=None)}

>>> next(iter(dataset))
{'image': <PIL.WebPImagePlugin.WebPImageFile image mode=RGB size=256x256>,
 'text': '소닉기어 에어폰5 휴대용 스테레오 블루투스 헤드폰',
 'width': 256,
 'height': 256}

2. webdataset

이 데이터셋은 webdataset으로 사용할 수 있도록 구성되어있습니다. 데이터를 다운로드하지 않고 스트리밍으로 처리한다면 1번 방법보다 훨씬 빠릅니다.

!! 아래 방법은 Windows에서는 에러가 발생합니다.

>>> import webdataset as wds

>>> url = "https://huggingface.co/datasets/Bingsu/laion2b_multi_korean_subset_with_image/resolve/main/data/{00000..02122}.tar"
>>> dataset = wds.WebDataset(url).shuffle(1000).decode("pil").to_tuple("webp", "json")
>>> next(iter(dataset))
...

이 글을 작성하는 현재(22-10-18), webp이미지의 자동 디코딩을 지원하지 않고 있기 때문에(PR #215), 직접 디코딩해야 합니다.

import io
import webdataset as wds
from PIL import Image

def preprocess(data):
    webp, jsn = data
    img = Image.open(io.BytesIO(webp))
    out = {
        "image": img,
        "text": jsn["caption"],
        "width": jsn["width"],
        "height": jsn["height"]
    }
    return out

url = "https://huggingface.co/datasets/Bingsu/laion2b_multi_korean_subset_with_image/resolve/main/data/{00000..02122}.tar"
dataset = wds.WebDataset(url).shuffle(1000).decode("pil").to_tuple("webp", "json").map(preprocess)
>>> next(iter(dataset))
{'image': <PIL.WebPImagePlugin.WebPImageFile image mode=RGB size=427x256>,
 'text': '[따블리에]유아동 미술가운, 미술 전신복',
 'width': 427,
 'height': 256}

Note

tar_image 각각의 tar 파일은 위 처럼 구성되어 있습니다.

다운로드에 실패한 이미지는 건너뛰어져있기 때문에 파일 이름은 완전히 연속적이지는 않습니다.

각각의 json 파일은 다음처럼 되어있습니다.

{
    "caption": "\ub514\uc790\uc778 \uc53d\ud0b9\uacfc \ub514\uc9c0\ud138 \ud2b8\ub79c\uc2a4\ud3ec\uba54\uc774\uc158",
    "url": "https://image.samsungsds.com/kr/insights/dt1.jpg?queryString=20210915031642",
    "key": "014770069",
    "status": "success",
    "error_message": null,
    "width": 649,
    "height": 256,
    "original_width": 760,
    "original_height": 300,
    "exif": "{}"
}

txt파일은 json파일의 "caption"을 담고 있습니다.

Downloads last month
274