SetFit with mini1013/master_domain

This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.

The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Model Details

Model Description

Model Sources

Model Labels

Label Examples
11.0
  • '음파 진동기 덜덜이 쉐이크보드 운동기구 뱃살 지방 코어 태우기 다이어트 스포츠/레저>헬스>진동운동기'
  • '덜덜이 전신 진동 진동기 쉐이크 음파 운동기구 스포츠/레저>헬스>진동운동기'
  • '쉐이킹보드 진동 다이어트 실내 피트니스 머신 체형관리 운동기 가정용 전신 플레이트 덜덜이 스포츠/레저>헬스>진동운동기'
13.0
  • '아이워너 접이식 타원형 손잡이 트램폴린 2인용 스포츠/레저>헬스>트램펄린'
  • '멜킨스포츠 스포츠 트램폴린 55인치 스포츠/레저>헬스>트램펄린'
  • '반석스포츠 맥스클럽 트램폴린 스포츠/레저>헬스>트램펄린'
10.0
  • 'JJR 3 1m 단체 구슬줄넘기 슬림구슬 DYG103150 스포츠/레저>헬스>줄넘기'
  • 'R-WAVE 1635 줄넘기 우드 줄넘기 나무 스포츠/레저>헬스>줄넘기'
  • '아이워너 선수용 줄넘기 다이어트 헬스 유산소운동 꼬임방지베어링 줄길이조절가능 스포츠/레저>헬스>줄넘기'
1.0
  • '엑사이더 슬림한 워킹패드 런닝머신 EW771R 스포츠/레저>헬스>러닝머신>접이식'
  • '바디엑스 X7 가정용 러닝머신 스포츠/레저>헬스>러닝머신>접이식'
  • '이고진 런닝머신 LT01 가정용 유산소 운동 기구 홈트 저소음 실내 워킹 패드 접이식 스포츠/레저>헬스>러닝머신>접이식'
15.0
  • '좌식 실내 자전거 운동기구 스피닝 가정용 바이크 헬스싸이클 스포츠/레저>헬스>헬스사이클'
  • '실내자전거 운동 스피닝 바이크 가정용 좌식 접이식 스포츠/레저>헬스>헬스사이클'
  • '좌식자전거 유산소 실내자전거 무소음 운동기구 홈트 사이클 릴렉스 헬스 바이크 다이어트 스포츠/레저>헬스>헬스사이클'
17.0
  • '신신상사 스타스포츠 S로즈 3.1 EA3001 훌라후프 스포츠/레저>헬스>훌라후프'
  • '닥터웰 웰서클 훌라후프 DR-54 스포츠/레저>헬스>훌라후프'
  • '나노소프트 BFIT 앱 폼 훌라후프 상급용 1.8KG 스포츠/레저>헬스>훌라후프'
3.0
  • '월드 클럽용 벨트 마사지기 - 논슬립 강철발판 덜덜이 BODY-0516 스포츠/레저>헬스>벨트마사지'
  • '골드스톤 벨트마사지기 덜덜이 속도조절 클럽용 실내운동기구 진동운동기구 GS10000 스포츠/레저>헬스>벨트마사지'
  • '아이워너 PVC 삼각 아령 3kg 스모키라벤더 스포츠/레저>헬스>벨트마사지'
14.0
  • '허리 트레이닝 스트레칭 발판 원판 지압 회전 WW710C12 스포츠/레저>헬스>트위스트'
  • '슈어밸류A 홈짐 허리운동 허리회전 등허리 트위스트 기구 CH-A103714 스포츠/레저>헬스>트위스트'
  • '트위스트 전신 운동 기구 홈트 실내 허리 스포츠/레저>헬스>트위스트'
4.0
  • '로만체어 척추 기립근 복부 허리 운동기구 로망체어 스포츠/레저>헬스>복근운동기구'
  • '복근 진동 EMS 벨트 허리 피트니스 패드 저주파 자극 스포츠/레저>헬스>복근운동기구'
  • '로만 체어 백익스텐션 운동기구 코어 기립근 옆구리 스포츠/레저>헬스>복근운동기구'
6.0
  • '승마 미끄럼 방지 장비 말-B 스포츠/레저>헬스>승마운동기'
  • '승마용 퀄팅 부츠 가방 수납 승마용품 보관 장비 스포츠/레저>헬스>승마운동기'
  • '승마 가죽 채찍 말 훈련 도구 라이딩 전문가용 스포츠/레저>헬스>승마운동기'
8.0
  • '홈트레이닝 최신 4줄 전신튜빙밴드 바디쉐이퍼 튜빙밴드 복근운동 헬스 스포츠/레저>헬스>웨이트기구>웨이트용품'
  • '스미스 머신 가정용 파워랙 멀티랙 로잉 운동기구 홈트 세트 홈짐 스미스 용문대 누적기 130kg 솔리드 스포츠/레저>헬스>웨이트기구>복합헬스머신'
  • 'modoo 스트레칭 요가 밴드 스포츠/레저>헬스>웨이트기구>웨이트용품'
9.0
  • '일립티컬 유산소 스카이워커 홈트 실내 입식 바이크 스포츠/레저>헬스>일립티컬'
  • '워커 접이식 기구 머신 운동 일립티컬 가정용 유산소 실내 홈트 헬스 운동기구 스포츠/레저>헬스>일립티컬'
  • '일립티컬머신 걷기운동 스카이 스텝밀 무소음 계단 스포츠/레저>헬스>일립티컬'
2.0
  • '실내자전거 매트 로잉머신 충격흡수 발판 방음 소음방지 12 L 스포츠/레저>헬스>로잉머신'
  • '가정용 로잉머신 접이식 조정 전신 운동 홈트 노젓기 스포츠/레저>헬스>로잉머신'
  • '가정용 로잉머신 노젓기 워터 운동 조정 스포츠/레저>헬스>로잉머신'
7.0
  • 'CNK 육각 아령 스포츠/레저>헬스>아령/덤벨'
  • '모아그룹 모아클래스 논슬립 덤벨 스포츠/레저>헬스>아령/덤벨'
  • '우성레포츠 아리프 냄새없는 PEV 육각 덤벨 스포츠/레저>헬스>아령/덤벨'
12.0
  • '멜킨스포츠 케틀벨 스포츠/레저>헬스>케틀벨'
  • '바디엑스 소프트 케틀벨 스포츠/레저>헬스>케틀벨'
  • '대연 스포빅스 PVC 스타일 케틀벨 스포츠/레저>헬스>케틀벨'
5.0
  • '클라이머 스탭퍼 가정용 암벽등반 등산 천국의 계단 스포츠/레저>헬스>스텝퍼'
  • '마운틴 클라이머 스텝퍼 사다리 걷기 천국의계단 홈트 클라이머운동기구 스포츠/레저>헬스>스텝퍼'
  • '스텝퍼 계단오르기기구 클라이머 클라임밀 스텝머신 스포츠/레저>헬스>스텝퍼'
16.0
  • '균형잡기 발란스 보드 밸런스 패드 허벅지 근육 운동 스포츠/레저>헬스>헬스소품>기타헬스소품'
  • '파워풀 강도조절 카운트 악력기 그린 스포츠/레저>헬스>헬스소품>악력기'
  • '오너클랜 관절 손상 최소화 스트레칭 운동 밸런스 패드 W3BB69C 스포츠/레저>헬스>헬스소품>기타헬스소품'
0.0
  • '와이앤에이치 렉스파 전동 거꾸리 YA-810 스포츠/레저>헬스>거꾸리'
  • '멜킨스포츠 세이프존 가정용 프리미엄 거꾸리 운동 기구 허리운동 스포츠/레저>헬스>거꾸리'
  • '와이앤에이치 렉스파 가정용 거꾸리 YA-740 스포츠/레저>헬스>거꾸리'

Evaluation

Metrics

Label Accuracy
all 1.0

Uses

Direct Use for Inference

First install the SetFit library:

pip install setfit

Then you can load this model and run inference.

from setfit import SetFitModel

# Download from the 🤗 Hub
model = SetFitModel.from_pretrained("mini1013/master_cate_sl31")
# Run inference
preds = model("허리 단련 운동 허리강화 로마의자 로만체어 옆구리 스포츠/레저>헬스>복근운동기구")

Training Details

Training Set Metrics

Training set Min Median Max
Word count 2 8.0378 18
Label Training Sample Count
0.0 3
1.0 70
2.0 70
3.0 70
4.0 70
5.0 70
6.0 70
7.0 70
8.0 70
9.0 70
10.0 70
11.0 70
12.0 69
13.0 70
14.0 68
15.0 70
16.0 70
17.0 70

Training Hyperparameters

  • batch_size: (256, 256)
  • num_epochs: (30, 30)
  • max_steps: -1
  • sampling_strategy: oversampling
  • num_iterations: 50
  • body_learning_rate: (2e-05, 1e-05)
  • head_learning_rate: 0.01
  • loss: CosineSimilarityLoss
  • distance_metric: cosine_distance
  • margin: 0.25
  • end_to_end: False
  • use_amp: False
  • warmup_proportion: 0.1
  • l2_weight: 0.01
  • seed: 42
  • eval_max_steps: -1
  • load_best_model_at_end: False

Training Results

Epoch Step Training Loss Validation Loss
0.0043 1 0.499 -
0.2146 50 0.4998 -
0.4292 100 0.4521 -
0.6438 150 0.2435 -
0.8584 200 0.093 -
1.0730 250 0.0291 -
1.2876 300 0.012 -
1.5021 350 0.0065 -
1.7167 400 0.0045 -
1.9313 450 0.0039 -
2.1459 500 0.0041 -
2.3605 550 0.0021 -
2.5751 600 0.0002 -
2.7897 650 0.0001 -
3.0043 700 0.0001 -
3.2189 750 0.0001 -
3.4335 800 0.0001 -
3.6481 850 0.0001 -
3.8627 900 0.0001 -
4.0773 950 0.0001 -
4.2918 1000 0.0001 -
4.5064 1050 0.0001 -
4.7210 1100 0.0001 -
4.9356 1150 0.0 -
5.1502 1200 0.0 -
5.3648 1250 0.0 -
5.5794 1300 0.0 -
5.7940 1350 0.0 -
6.0086 1400 0.0 -
6.2232 1450 0.0 -
6.4378 1500 0.0 -
6.6524 1550 0.0 -
6.8670 1600 0.0 -
7.0815 1650 0.0 -
7.2961 1700 0.0 -
7.5107 1750 0.0 -
7.7253 1800 0.0 -
7.9399 1850 0.0 -
8.1545 1900 0.0 -
8.3691 1950 0.0 -
8.5837 2000 0.0 -
8.7983 2050 0.0 -
9.0129 2100 0.0 -
9.2275 2150 0.0 -
9.4421 2200 0.0 -
9.6567 2250 0.0 -
9.8712 2300 0.0 -
10.0858 2350 0.0 -
10.3004 2400 0.0 -
10.5150 2450 0.0 -
10.7296 2500 0.0 -
10.9442 2550 0.0 -
11.1588 2600 0.0 -
11.3734 2650 0.0 -
11.5880 2700 0.0 -
11.8026 2750 0.0 -
12.0172 2800 0.0 -
12.2318 2850 0.0 -
12.4464 2900 0.0 -
12.6609 2950 0.0 -
12.8755 3000 0.0 -
13.0901 3050 0.0 -
13.3047 3100 0.0 -
13.5193 3150 0.0 -
13.7339 3200 0.0 -
13.9485 3250 0.0 -
14.1631 3300 0.0 -
14.3777 3350 0.0 -
14.5923 3400 0.0 -
14.8069 3450 0.0 -
15.0215 3500 0.0 -
15.2361 3550 0.0 -
15.4506 3600 0.0 -
15.6652 3650 0.0 -
15.8798 3700 0.0 -
16.0944 3750 0.0 -
16.3090 3800 0.0 -
16.5236 3850 0.0 -
16.7382 3900 0.0 -
16.9528 3950 0.0 -
17.1674 4000 0.0 -
17.3820 4050 0.0 -
17.5966 4100 0.0 -
17.8112 4150 0.0 -
18.0258 4200 0.0 -
18.2403 4250 0.0 -
18.4549 4300 0.0 -
18.6695 4350 0.0 -
18.8841 4400 0.0 -
19.0987 4450 0.0 -
19.3133 4500 0.0 -
19.5279 4550 0.0 -
19.7425 4600 0.0 -
19.9571 4650 0.0 -
20.1717 4700 0.0 -
20.3863 4750 0.0 -
20.6009 4800 0.0 -
20.8155 4850 0.0 -
21.0300 4900 0.0 -
21.2446 4950 0.0 -
21.4592 5000 0.0 -
21.6738 5050 0.0 -
21.8884 5100 0.0 -
22.1030 5150 0.0 -
22.3176 5200 0.0 -
22.5322 5250 0.0 -
22.7468 5300 0.0 -
22.9614 5350 0.0 -
23.1760 5400 0.0 -
23.3906 5450 0.0 -
23.6052 5500 0.0 -
23.8197 5550 0.0 -
24.0343 5600 0.0 -
24.2489 5650 0.0 -
24.4635 5700 0.0 -
24.6781 5750 0.0 -
24.8927 5800 0.0 -
25.1073 5850 0.0 -
25.3219 5900 0.0 -
25.5365 5950 0.0 -
25.7511 6000 0.0 -
25.9657 6050 0.0 -
26.1803 6100 0.0 -
26.3948 6150 0.0 -
26.6094 6200 0.0 -
26.8240 6250 0.0 -
27.0386 6300 0.0 -
27.2532 6350 0.0 -
27.4678 6400 0.0 -
27.6824 6450 0.0 -
27.8970 6500 0.0 -
28.1116 6550 0.0 -
28.3262 6600 0.0 -
28.5408 6650 0.0 -
28.7554 6700 0.0 -
28.9700 6750 0.0 -
29.1845 6800 0.0 -
29.3991 6850 0.0 -
29.6137 6900 0.0 -
29.8283 6950 0.0 -

Framework Versions

  • Python: 3.10.12
  • SetFit: 1.1.0
  • Sentence Transformers: 3.3.1
  • Transformers: 4.44.2
  • PyTorch: 2.2.0a0+81ea7a4
  • Datasets: 3.2.0
  • Tokenizers: 0.19.1

Citation

BibTeX

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}
Downloads last month
119
Safetensors
Model size
111M params
Tensor type
F32
·
Inference Providers NEW
This model is not currently available via any of the supported Inference Providers.

Model tree for mini1013/master_cate_sl31

Base model

klue/roberta-base
Finetuned
(213)
this model

Evaluation results