--- tags: - sentence-transformers - sentence-similarity - feature-extraction - generated_from_trainer - dataset_size:358 - loss:CosineSimilarityLoss base_model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 widget: - source_sentence: 'jaringan yang digunakan untuk pengiriman data ' sentences: - bluetooth adalah perangkat yang menjadi media tukar menukar (menerima mengirim) informasi di antara peralatan eketronik. bluetooth merupakan media tanpa kabel. biasanya bluethooth digunakan untuk mengirim foto atau file antar handphone. - data merupakan rangkaian fakta yang mewakili suatu kejadian, atau dapat di sebut dengan simbol yang terekam. informasi adalah makna yang dapat di tafsirkan dari data. pengetahuan adalah informasi yang telah dimaknai sehingga dapat digunakan untuk meningkatkan pengertian atau pemahaman. - topologi jaringan adalah struktur jaringan fisik yang digunakan untuk implementasi lan (local area network). unsur dasar penyusun jaringan, yaitu node, link, dan station. contoh topologi bintang (star) , topologi cincin (ring) , topologi bus, topologi pohon (tree), topologi linier - source_sentence: 'hardware adalah perangkat keras contoh keyboard,monitor,cpu,lcd proyektor, mouse ' sentences: - 'hardware (perangkat keras) adalah suatu komponen yang ada pada komputer, bisa dilihat secara kasat mata dan dapat disentuh secara fisik. contoh : mouse, monitor, keyboard, printer, kamera, cpu, kabel, router, bridge, hub.' - topologi jaringan adalah struktur jaringan fisik yang digunakan untuk implementasi lan (local area network). unsur dasar penyusun jaringan, yaitu node, link, dan station. contoh topologi bintang (star) , topologi cincin (ring) , topologi bus, topologi pohon (tree), topologi linier - 'hardware (perangkat keras) adalah suatu komponen yang ada pada komputer, bisa dilihat secara kasat mata dan dapat disentuh secara fisik. contoh : mouse, monitor, keyboard, printer, kamera, cpu, kabel, router, bridge, hub.' - source_sentence: 'liquid crystal display, central processor unit, global positioning system. ' sentences: - data merupakan rangkaian fakta yang mewakili suatu kejadian, atau dapat di sebut dengan simbol yang terekam. informasi adalah makna yang dapat di tafsirkan dari data. pengetahuan adalah informasi yang telah dimaknai sehingga dapat digunakan untuk meningkatkan pengertian atau pemahaman. - lcd (liquid crystal display), cpu (central processing unit), gps (global positioning system) - data merupakan rangkaian fakta yang mewakili suatu kejadian, atau dapat di sebut dengan simbol yang terekam. informasi adalah makna yang dapat di tafsirkan dari data. pengetahuan adalah informasi yang telah dimaknai sehingga dapat digunakan untuk meningkatkan pengertian atau pemahaman. - source_sentence: 'jaringan dengan kabel ' sentences: - topologi jaringan adalah struktur jaringan fisik yang digunakan untuk implementasi lan (local area network). unsur dasar penyusun jaringan, yaitu node, link, dan station. contoh topologi bintang (star) , topologi cincin (ring) , topologi bus, topologi pohon (tree), topologi linier - komputer adalah rangkaian mesin elektronik yang dapat bekerja sama. sistem ini digunakan untuk memudahkan pekerjaan manusia. komputer bekerja otomatis berdasarkan urutan instruksi atau program yang diberikan. - 'hardware (perangkat keras) adalah suatu komponen yang ada pada komputer, bisa dilihat secara kasat mata dan dapat disentuh secara fisik. contoh : mouse, monitor, keyboard, printer, kamera, cpu, kabel, router, bridge, hub.' - source_sentence: 'spesifikasi industri untuk jaringan kawasan pribadi (personal area networks atau pan) tanpa kabel. bluetooth menghubungkan dan dapat dipakai untuk melakukan tukar-menukar informasi di antara peralatan-peralatan. ' sentences: - lcd (liquid crystal display), cpu (central processing unit), gps (global positioning system) - bluetooth adalah perangkat yang menjadi media tukar menukar (menerima mengirim) informasi di antara peralatan eketronik. bluetooth merupakan media tanpa kabel. biasanya bluethooth digunakan untuk mengirim foto atau file antar handphone. - bluetooth adalah perangkat yang menjadi media tukar menukar (menerima mengirim) informasi di antara peralatan eketronik. bluetooth merupakan media tanpa kabel. biasanya bluethooth digunakan untuk mengirim foto atau file antar handphone. pipeline_tag: sentence-similarity library_name: sentence-transformers metrics: - pearson_cosine - spearman_cosine model-index: - name: SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 results: - task: type: semantic-similarity name: Semantic Similarity dataset: name: val type: val metrics: - type: pearson_cosine value: 0.9195560532666208 name: Pearson Cosine - type: spearman_cosine value: 0.9020688210352061 name: Spearman Cosine --- # SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2](https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2). It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for retrieval. ## Model Details ### Model Description - **Model Type:** Sentence Transformer - **Base model:** [sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2](https://huggingface.co/sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2) - **Maximum Sequence Length:** 128 tokens - **Output Dimensionality:** 384 dimensions - **Similarity Function:** Cosine Similarity - **Supported Modality:** Text ### Model Sources - **Documentation:** [Sentence Transformers Documentation](https://sbert.net) - **Repository:** [Sentence Transformers on GitHub](https://github.com/huggingface/sentence-transformers) - **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers) ### Full Model Architecture ``` SentenceTransformer( (0): Transformer({'transformer_task': 'feature-extraction', 'modality_config': {'text': {'method': 'forward', 'method_output_name': 'last_hidden_state'}}, 'module_output_name': 'token_embeddings', 'architecture': 'BertModel'}) (1): Pooling({'embedding_dimension': 384, 'pooling_mode': 'mean', 'include_prompt': True}) ) ``` ## Usage ### Direct Usage (Sentence Transformers) First install the Sentence Transformers library: ```bash pip install -U sentence-transformers ``` Then you can load this model and run inference. ```python from sentence_transformers import SentenceTransformer # Download from the 🤗 Hub model = SentenceTransformer("sentence_transformers_model_id") # Run inference sentences = [ 'spesifikasi industri untuk jaringan kawasan pribadi (personal area networks atau pan) tanpa kabel. bluetooth menghubungkan dan dapat dipakai untuk melakukan tukar-menukar informasi di antara peralatan-peralatan. ', 'bluetooth adalah perangkat yang menjadi media tukar menukar (menerima mengirim) informasi di antara peralatan eketronik. bluetooth merupakan media tanpa kabel. biasanya bluethooth digunakan untuk mengirim foto atau file antar handphone.', 'lcd (liquid crystal display), cpu (central processing unit), gps (global positioning system)', ] embeddings = model.encode(sentences) print(embeddings.shape) # [3, 384] # Get the similarity scores for the embeddings similarities = model.similarity(embeddings, embeddings) print(similarities) # tensor([[1.0000, 0.4212, 0.1034], # [0.4212, 1.0000, 0.1189], # [0.1034, 0.1189, 1.0000]]) ``` ## Evaluation ### Metrics #### Semantic Similarity * Dataset: `val` * Evaluated with [EmbeddingSimilarityEvaluator](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.sentence_transformer.evaluation.EmbeddingSimilarityEvaluator) | Metric | Value | |:--------------------|:-----------| | pearson_cosine | 0.9196 | | **spearman_cosine** | **0.9021** | ## Training Details ### Training Dataset #### Unnamed Dataset * Size: 358 training samples * Columns: sentence_0, sentence_1, and label * Approximate statistics based on the first 100 samples: | | sentence_0 | sentence_1 | label | |:---------|:-----------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|:---------------------------------------------------------------| | type | string | string | float | | modality | text | text | | | details | | | | * Samples: | sentence_0 | sentence_1 | label | |:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------| | alat yang dipakai untuk mengolah data menurut prosedur yang telah dirumuskan dimana komputer itu sendiri merupakan perangkat elektronik yang terdiri dari beberapa komponen yang saling bekerja sama membentuk sebuah sistem kerja yang dapat menjalankan pekerjaan secara otomatis berdasar urutan instruksi ataupun program yang diberikan kepadanya sehingga dapat menghasilkan suatu informasi berdasarkan program dan data yang ada. | komputer adalah rangkaian mesin elektronik yang dapat bekerja sama. sistem ini digunakan untuk memudahkan pekerjaan manusia. komputer bekerja otomatis berdasarkan urutan instruksi atau program yang diberikan. | 0.29333333333333333 | | informasi yang dibutuhkan akan semakin cepat dan mudah di akses untuk kepentingan pendidikan. inovasi dalam pembelajaran semakin berkembang dengan adanya inovasi e-learning yang semakin memudahkan proses pendidikan. kemajuan tik juga akan memungkinkan berkembangnya kelas virtual atau kelas yang berbasis teleconference yang tidak mengharuskan sang pendidik dan peserta didik berada dalam satu ruangan. | - memperluas pemasaran sehingga tidak mempermasalahkan jarak dan waktu - mengurangi biaya produksi, promosi - mempermudah penyimpanan data penjualan, data barang maupun laporan keuangan - menggantikan pekerjaan manual menjadi otomatis - proses produksi lebih cepat dan praktis | 0.25666666666666665 | | bisnis berjalan cepat , dapat maju dengan peasat , banyak informasi yang di dapat | - memperluas pemasaran sehingga tidak mempermasalahkan jarak dan waktu - mengurangi biaya produksi, promosi - mempermudah penyimpanan data penjualan, data barang maupun laporan keuangan - menggantikan pekerjaan manual menjadi otomatis - proses produksi lebih cepat dan praktis | 0.23 | * Loss: [CosineSimilarityLoss](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cosinesimilarityloss) with these parameters: ```json { "loss_fct": "torch.nn.modules.loss.MSELoss", "cos_score_transformation": "torch.nn.modules.linear.Identity" } ``` ### Training Hyperparameters #### Non-Default Hyperparameters - `per_device_train_batch_size`: 16 - `num_train_epochs`: 4 - `per_device_eval_batch_size`: 16 - `multi_dataset_batch_sampler`: round_robin #### All Hyperparameters
Click to expand - `per_device_train_batch_size`: 16 - `num_train_epochs`: 4 - `max_steps`: -1 - `learning_rate`: 5e-05 - `lr_scheduler_type`: linear - `lr_scheduler_kwargs`: None - `warmup_steps`: 0 - `optim`: adamw_torch_fused - `optim_args`: None - `weight_decay`: 0.0 - `adam_beta1`: 0.9 - `adam_beta2`: 0.999 - `adam_epsilon`: 1e-08 - `optim_target_modules`: None - `gradient_accumulation_steps`: 1 - `average_tokens_across_devices`: True - `max_grad_norm`: 1 - `label_smoothing_factor`: 0.0 - `bf16`: False - `fp16`: False - `bf16_full_eval`: False - `fp16_full_eval`: False - `tf32`: None - `gradient_checkpointing`: False - `gradient_checkpointing_kwargs`: None - `torch_compile`: False - `torch_compile_backend`: None - `torch_compile_mode`: None - `use_liger_kernel`: False - `liger_kernel_config`: None - `use_cache`: False - `neftune_noise_alpha`: None - `torch_empty_cache_steps`: None - `auto_find_batch_size`: False - `log_on_each_node`: True - `logging_nan_inf_filter`: True - `include_num_input_tokens_seen`: no - `log_level`: passive - `log_level_replica`: warning - `disable_tqdm`: False - `project`: huggingface - `trackio_space_id`: None - `trackio_bucket_id`: None - `trackio_static_space_id`: None - `per_device_eval_batch_size`: 16 - `prediction_loss_only`: True - `eval_on_start`: False - `eval_do_concat_batches`: True - `eval_use_gather_object`: False - `eval_accumulation_steps`: None - `include_for_metrics`: [] - `batch_eval_metrics`: False - `save_only_model`: False - `save_on_each_node`: False - `enable_jit_checkpoint`: False - `push_to_hub`: False - `hub_private_repo`: None - `hub_model_id`: None - `hub_strategy`: every_save - `hub_always_push`: False - `hub_revision`: None - `load_best_model_at_end`: False - `ignore_data_skip`: False - `restore_callback_states_from_checkpoint`: False - `full_determinism`: False - `seed`: 42 - `data_seed`: None - `use_cpu`: False - `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None} - `parallelism_config`: None - `dataloader_drop_last`: False - `dataloader_num_workers`: 0 - `dataloader_pin_memory`: True - `dataloader_persistent_workers`: False - `dataloader_prefetch_factor`: None - `remove_unused_columns`: True - `label_names`: None - `train_sampling_strategy`: random - `length_column_name`: length - `ddp_find_unused_parameters`: None - `ddp_bucket_cap_mb`: None - `ddp_broadcast_buffers`: False - `ddp_static_graph`: None - `ddp_backend`: None - `ddp_timeout`: 1800 - `fsdp`: None - `fsdp_config`: None - `deepspeed`: None - `debug`: [] - `skip_memory_metrics`: True - `do_predict`: False - `resume_from_checkpoint`: None - `warmup_ratio`: None - `local_rank`: -1 - `prompts`: None - `batch_sampler`: batch_sampler - `multi_dataset_batch_sampler`: round_robin - `router_mapping`: {} - `learning_rate_mapping`: {}
### Training Logs | Epoch | Step | val_spearman_cosine | |:-----:|:----:|:-------------------:| | 1.0 | 23 | 0.8524 | | 2.0 | 46 | 0.8764 | | 3.0 | 69 | 0.9021 | ### Training Time - **Training**: 3.9 minutes ### Framework Versions - Python: 3.12.13 - Sentence Transformers: 5.5.1 - Transformers: 5.12.0 - PyTorch: 2.11.0+cu128 - Accelerate: 1.14.0 - Datasets: 4.0.0 - Tokenizers: 0.22.2 ## Citation ### BibTeX #### Sentence Transformers ```bibtex @inproceedings{reimers-2019-sentence-bert, title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks", author = "Reimers, Nils and Gurevych, Iryna", booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing", month = "11", year = "2019", publisher = "Association for Computational Linguistics", url = "https://arxiv.org/abs/1908.10084", } ```