Datasets:

MarcelPower

/

github-jupyter-text-code-pairs

like 0

Creating a table From here we need to create a first table. Let's recreate the Person table from the SW Carpentry db lesson, topic 1.

%%sql CREATE TABLE Person (ident CHAR(10), personal CHAR(25), family CHAR(25)); %sql SHOW TABLES; %sql DESCRIBE Person;

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

c52d8668503750e41fdab243eaaac393

Inserting data Okay then, let's insert the sample data:

%%sql INSERT INTO Person VALUES ("dyer", "William", "Dyer"), ("pb", "Frank", "Pabodie"), ("lake", "Anderson", "Lake"), ("roe", "Valentina", "Roerich"), ("danforth", "Frank", "Danforth") ;

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

bfe5128d0f9506bbbd4d3fb7718131b2

Selecting data Okay, now we're cooking. There's data in the Person table, so we can start to SELECT it.

%sql SELECT * FROM Person; %sql SELECT * FROM Person WHERE personal = "Frank";

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

329c5d7e2960cd6650cbfbdf5c1fdeca

Accessing data from Python One of the great things about ipython-sql is it marshalls all the data into Python objects for you. For example, to get the result data into a Python object, grab it from _:

result = _ print result

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

1cc0b837efd2a4f7e9cd81fd25f56080

You can even assign it to a Pandas dataframe:

df = result.DataFrame() df

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

c98be037493afd1286283741d6447b72

Cleaning up If you were just doing a little exploring and wish to clean up, it's easy to get rid of tables and databases. NOTE: these are permanent actions. Only do them if you know you don't need them any longer. To get rid of a table, use DROP TABLE:

%sql DROP TABLE Person; %sql SHOW TABLES;

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

b35ae69f9be22eb559b2ac3b4bb3e005

And to get rid of a whole database, use DROP DATABASE:

%sql DROP DATABASE week3demo; %sql SHOW DATABASES;

lectures/week-03/sql-demo.ipynb

dchud/warehousing-course

cc0-1.0

a663de5e253350b24f910b1c306096ec

We can use gradient descent to minimize a cost function, thereby optimizing our weights. ANNs in Sklearn Multi-layer Perceptron (MLP) models in sklearn The advantages of MLP are: - Capability to learn non-linear models. - Capability to learn models in real-time (on-line learning) using partial_fit. The disadvantages of MLP include: - MLP with hidden layers have a non-convex loss function where there exists more than one local minimum. Therefore different random weight initializations can lead to different validation accuracy. - MLP requires tuning a number of hyperparameters such as the number of hidden neurons, layers, and iterations. - MLP is sensitive to feature scaling.

# build simple neural net with sklearn: An "OR" gate from sklearn.neural_network import MLPClassifier X = [[0., 0.], [1., 1.], [1., 0.], [0., 1.]] y = [0, 1, 1, 1] clf = MLPClassifier(hidden_layer_sizes=(5,2), solver='lbfgs', random_state=42) clf.fit(X,y) # predict new observations clf.predict([[0,1]]) # find parameters print([coef.shape for coef in clf.coefs_]) clf.coefs_ clf.predict([[2,2]]) clf.predict([[-2,2]]) clf.predict([[-2,-2]])

Projects/Project5/NeuralNetSum.ipynb

ptpro3/ptpro3.github.io

mit

960e028ef77ee340056533b684aa5259

Question 4 Write a function to update the dataframe to include a new column called "Points" which is a weighted value where each gold medal counts for 3 points, silver medals for 2 points, and bronze mdeals for 1 point. The function should return only the column (a Series object) which you created. This function should return a Series named Points of length 146

def answer_four(): return "YOUR ANSWER HERE"

intro-python-data-science/course1_downloads/Assignment 2.ipynb

joaoandre/algorithms

mit

670aa9bbd9d4d91dfcf32090ef81cf87

Question 6 Only looking at the three most populous counties for each state, what are the three most populous states (in order of highest population to lowest population)? This function should return a list of string values.

def answer_six(): return "YOUR ANSWER HERE"

intro-python-data-science/course1_downloads/Assignment 2.ipynb

joaoandre/algorithms

mit

ac727d489e58d17a4f96a683d1881b62

Construction de la dataframe et réalisation des graphiques

simulated_variables = ['coicop12_{}'.format(coicop12_index) for coicop12_index in range(1, 13)] for year in [2000, 2005, 2011]: survey_scenario = SurveyScenario.create(year = year) pivot_table = pandas.DataFrame() for values in simulated_variables: pivot_table = pandas.concat([ pivot_table, survey_scenario.compute_pivot_table(values = [values], columns = ['niveau_vie_decile']) ]) df = pivot_table.T df['depenses_tot'] = df[['coicop12_{}'.format(i) for i in range(1, 13)]].sum(axis = 1) for i in range(1, 13): df['part_coicop12_{}'.format(i)] = \ df['coicop12_{}'.format(i)] / df['depenses_tot'] print 'Profil de la consommation des ménages en {}'.format(year) graph_builder_bar(df[['part_coicop12_{}'.format(i) for i in range(1, 13)]])

openfisca_france_indirect_taxation/examples/notebooks/consommations_coicop_par_decile.ipynb

openfisca/openfisca-france-indirect-taxation

agpl-3.0

94cd996ac00a532c7059e7949de78d83

확장 유형 <table class="tfo-notebook-buttons" align="left"> <td><a target="_blank" href="https://www.tensorflow.org/guide/extension_type"><img src="https://www.tensorflow.org/images/tf_logo_32px.png">TensorFlow.org에서 보기</a></td> <td><a target="_blank" href="https://colab.research.google.com/github/tensorflow/docs-l10n/blob/master/site/ko/guide/extension_type.ipynb"><img src="https://www.tensorflow.org/images/colab_logo_32px.png">Google Colab에서 실행</a></td> <td><a target="_blank" href="https://github.com/tensorflow/docs-l10n/blob/master/site/ko/guide/extension_type.ipynb"><img src="https://www.tensorflow.org/images/GitHub-Mark-32px.png">GitHub에서 소스 보기</a></td> <td><a href="https://storage.googleapis.com/tensorflow_docs/docs-l10n/site/ko/guide/extension_type.ipynb"><img src="https://www.tensorflow.org/images/download_logo_32px.png">노트북 다운로드</a></td> </table> 설정

!pip install -q tf_nightly import tensorflow as tf import numpy as np from typing import Tuple, List, Mapping, Union, Optional import tempfile

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

a0e7b5a82c3cd3bd3ae8992b96c26fa6

확장 유형 사용자 정의 유형을 사용하면 프로젝트를 더 읽기 쉽고 모듈식으로 유지 관리할 수 있습니다. 그러나 대부분의 TensorFlow API는 사용자 정의 Python 유형에 대한 지원이 매우 제한적입니다. 이것은 (예 모두 높은 수준의 API를 포함 Keras , tf.function , tf.SavedModel (예로서 하위 레벨의 API) tf.while_loop 및 tf.concat ). TensorFlow 확장 유형 을 사용하여 TensorFlow의 API와 원활하게 작동하는 사용자 정의 객체 지향 유형을 생성할 수 있습니다. tf.experimental.ExtensionType 을 기본으로 하는 Python 클래스를 정의하고 유형 주석 을 사용하여 각 필드의 유형을 지정하면 됩니다.

class TensorGraph(tf.experimental.ExtensionType): """A collection of labeled nodes connected by weighted edges.""" edge_weights: tf.Tensor # shape=[num_nodes, num_nodes] node_labels: Mapping[str, tf.Tensor] # shape=[num_nodes]; dtype=any class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor # shape=values.shape; false for missing/invalid values. class CSRSparseMatrix(tf.experimental.ExtensionType): """Compressed sparse row matrix (https://en.wikipedia.org/wiki/Sparse_matrix).""" values: tf.Tensor # shape=[num_nonzero]; dtype=any col_index: tf.Tensor # shape=[num_nonzero]; dtype=int64 row_index: tf.Tensor # shape=[num_rows+1]; dtype=int64

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

6b25cce00c7eb8b5ecdaa056199448f2

tf.experimental.ExtensionType 기본 클래스는 표준 Python 라이브러리의 typing.NamedTuple 및 @dataclasses.dataclass 와 유사하게 작동합니다. 특히 필드 유형 주석을 기반으로 생성자와 특수 메서드(예: __repr__ 및 __eq__ 일반적으로 확장 유형은 다음 두 가지 범주 중 하나로 분류되는 경향이 있습니다. 관련 값의 컬렉션을 그룹화하고 해당 값을 기반으로 유용한 작업을 제공할 수 있는 데이터 구조. 데이터 구조는 상당히 일반적일 수 있습니다(예 TensorGraph 예). 또는 특정 모델에 고도로 맞춤화될 수 있습니다. "Tensor"의 개념을 전문화하거나 확장하는 Tensor와 유사한 유형입니다. 이 범주의 유형에는 rank , shape 및 일반적으로 dtype . tf.stack , tf.add 또는 tf.matmul )과 함께 사용하는 것이 좋습니다. MaskedTensor 및 CSRSparseMatrix 는 텐서 유사 유형의 예입니다. 지원되는 API 확장 유형은 다음 TensorFlow API에서 지원됩니다. Keras Models 및 Layers 대한 입력 및 출력으로 사용할 수 있습니다. tf.data.Dataset : 확장 유형은 Datasets Iterators 의해 반환됩니다. Tensorflow 허브 tf.hub 모듈의 입력 및 출력으로 사용할 수 있습니다. SavedModel SavedModel 함수에 대한 입력 및 출력으로 사용할 수 있습니다. tf.function @tf.function 데코레이터로 래핑된 함수의 인수 및 반환 값으로 사용할 수 있습니다. while 루프 : 확장 유형은 tf.while_loop 에서 루프 변수로 사용할 수 있으며 while 루프 본문에 대한 인수 및 반환 값으로 사용할 수 있습니다. conditionals tf.cond 및 tf.case 사용하여 조건부로 선택할 수 있습니다. py_function : 확장 유형을 인수로 사용할 수 있고 func 인수에 tf.py_function 반환할 수 있습니다. Tensor ops tf.matmul , tf.gather 및 tf.reduce_sum )을 허용하는 대부분의 TensorFlow 작업을 지원하도록 확장될 수 있습니다. 자세한 내용은 아래의 " 디스패치 " 섹션을 참조하십시오. 배포 전략 : 확장 유형을 복제본당 값으로 사용할 수 있습니다. 자세한 내용은 아래 "ExtensionTypes를 지원하는 TensorFlow API" 섹션을 참조하세요. 요구 사항 필드 유형 모든 필드(일명 인스턴스 변수)를 선언해야 하며 각 필드에 유형 주석을 제공해야 합니다. 다음 유형 주석이 지원됩니다. 유형 | 예시 --- | --- 파이썬 정수 | i: int 파이썬 수레 | f: float 파이썬 문자열 | s: str 파이썬 부울 | b: bool 파이썬 없음 | n: None 텐서 모양 | shape: tf.TensorShape 텐서 dtypes | dtype: tf.DType 텐서 | t: tf.Tensor 확장 유형 | mt: MyMaskedTensor 비정형 텐서 | rt: tf.RaggedTensor 희소 텐서 | st: tf.SparseTensor 인덱싱된 슬라이스 | s: tf.IndexedSlices 선택적 텐서 | o: tf.experimental.Optional 유형 조합 | int_or_float: typing.Union[int, float] 튜플 | params: typing.Tuple[int, float, tf.Tensor, int] 가변 길이 튜플 | lengths: typing.Tuple[int, ...] 매핑 | tags: typing.Mapping[str, tf.Tensor] 선택적 값 | weight: typing.Optional[tf.Tensor] 가변성 확장 유형은 변경 불가능해야 합니다. 이렇게 하면 TensorFlow의 그래프 추적 메커니즘으로 적절하게 추적할 수 있습니다. 확장 유형 값을 변경하려는 경우 값을 변환하는 메서드를 대신 정의하는 것이 좋습니다. 예를 들어 MaskedTensor 를 변경하기 위해 set_mask MaskedTensor 를 반환하는 replace_mask 메서드를 정의할 수 있습니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def replace_mask(self, new_mask): self.values.shape.assert_is_compatible_with(new_mask.shape) return MaskedTensor(self.values, new_mask)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

cb3a8bc3a0c4ceebdeb9156fc79a0b3b

ExtensionType 추가한 기능 ExtensionType 기본 클래스는 다음 기능을 제공합니다. 생성자( __init__ ). 인쇄 가능한 표현 방법( __repr__ ). 등식 및 부등식 연산자( __eq__ ). 유효성 검사 방법( __validate__ ). 강제 불변성. 중첩된 TypeSpec . 텐서 API 디스패치 지원. 이 기능을 사용자 정의하는 방법에 대한 자세한 내용은 아래의 "ExtensionType 사용자 정의" 섹션을 참조하십시오. 건설자 ExtensionType 에 의해 추가된 생성자는 각 필드를 명명된 인수로 사용합니다(클래스 정의에 나열된 순서대로). 이 생성자는 각 매개변수를 유형 검사하고 필요한 경우 변환합니다. 특히, Tensor tf.convert_to_tensor 사용하여 변환됩니다. Tuple 필드로 변환됩니다 tuple 의; Mapping 필드는 변경할 수 없는 사전으로 변환됩니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor # Constructor takes one parameter for each field. mt = MaskedTensor(values=[[1, 2, 3], [4, 5, 6]], mask=[[True, True, False], [True, False, True]]) # Fields are type-checked and converted to the declared types. # E.g., mt.values is converted to a Tensor. print(mt.values)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

9ea3cadada933962a4aca15a33f33926

필드 값을 선언된 유형으로 변환할 수 없는 경우 생성자는 TypeError

try: MaskedTensor([1, 2, 3], None) except TypeError as e: print(f"Got expected TypeError: {e}")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

62f282d7d7a885aea66a30f0871929a9

필드의 기본값은 클래스 수준에서 값을 설정하여 지정할 수 있습니다.

class Pencil(tf.experimental.ExtensionType): color: str = "black" has_erasor: bool = True length: tf.Tensor = 1.0 Pencil() Pencil(length=0.5, color="blue")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

882e69eddb6eabdcbc176639e0e8c874

인쇄 가능한 표현 ExtensionType 은 클래스 이름과 각 필드의 값을 포함하는 기본 인쇄 가능한 표현 방법( __repr__

print(MaskedTensor(values=[1, 2, 3], mask=[True, True, False]))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

b40e0f92426eee71c5188ed4790a4c30

등호 연산자 ExtensionType 은 유형이 동일하고 모든 필드가 동일한 경우 두 값을 동일하게 간주하는 기본 동등 연산자( __eq__ 및 __ne__ 텐서 필드는 모양이 동일하고 모든 요소에 대해 요소별로 동일한 경우 동일한 것으로 간주됩니다.

a = MaskedTensor([1, 2], [True, False]) b = MaskedTensor([[3, 4], [5, 6]], [[False, True], [True, True]]) print(f"a == a: {a==a}") print(f"a == b: {a==b}") print(f"a == a.values: {a==a.values}")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

3657bd656ca423337087c46e42ad36e5

참고: Tensor 가 포함된 경우 __eq__ 는 (Python 부울 값 대신) Tensor 반환할 수 있습니다. 검증 방법 ExtensionType 은 필드에 대한 유효성 검사를 수행하기 위해 재정의할 수 있는 __validate__ 생성자가 호출되고 필드가 유형 검사되고 선언된 유형으로 변환된 후에 실행되므로 모든 필드에 선언된 유형이 있다고 가정할 수 있습니다. 다음 예제는 MaskedTensor 를 업데이트하여 해당 필드의 shape s 및 dtype 을 확인합니다.

class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor def __validate__(self): self.values.shape.assert_is_compatible_with(self.mask.shape) assert self.mask.dtype.is_bool, 'mask.dtype must be bool' try: MaskedTensor([1, 2, 3], [0, 1, 0]) # wrong dtype for mask. except AssertionError as e: print(f"Got expected AssertionError: {e}") try: MaskedTensor([1, 2, 3], [True, False]) # shapes don't match. except ValueError as e: print(f"Got expected ValueError: {e}")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

2fd7173dd86fadf96e427f2f2756801d

강제 불변성 ExtensionType __setattr__ 및 __delattr__ 메서드를 재정의하여 변형을 방지하여 확장 유형 값을 변경할 수 없도록 합니다.

mt = MaskedTensor([1, 2, 3], [True, False, True]) try: mt.mask = [True, True, True] except AttributeError as e: print(f"Got expected AttributeError: {e}") try: mt.mask[0] = False except TypeError as e: print(f"Got expected TypeError: {e}") try: del mt.mask except AttributeError as e: print(f"Got expected AttributeError: {e}")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

6d782ad3ff38c9987e9482f0999488d2

중첩된 유형 사양 각 ExtensionType 클래스에는 자동으로 생성되고 &lt;extension_type_name&gt;.Spec TypeSpec 클래스가 있습니다. 이 클래스는 중첩된 텐서의 값을 제외한 값에서 모든 정보를 캡처합니다. 특히 TypeSpec 은 중첩된 Tensor, ExtensionType 또는 CompositeTensor를 TypeSpec 으로 대체하여 생성됩니다.

class Player(tf.experimental.ExtensionType): name: tf.Tensor attributes: Mapping[str, tf.Tensor] anne = Player("Anne", {"height": 8.3, "speed": 28.1}) anne_spec = tf.type_spec_from_value(anne) print(anne_spec.name) # Records dtype and shape, but not the string value. print(anne_spec.attributes) # Records keys and TensorSpecs for values.

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

094cf538674bf22d72056319d3ca791f

TypeSpec 값은 명시적으로 구성하거나 tf.type_spec_from_value 사용하여 ExtensionType 값에서 빌드할 수 있습니다.

spec1 = Player.Spec(name=tf.TensorSpec([], tf.float32), attributes={}) spec2 = tf.type_spec_from_value(anne)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

fc5b147bffe0c440efab23c5b4546295

TypeSpec 은 TensorFlow에서 값을 정적 구성 요소 와 동적 구성 요소로 나누는 데 사용됩니다. 그래프 생성 시 고정되는 정적 구성 요소 tf.TypeSpec 인코딩됩니다. 그래프가 실행될 때마다 다를 수 있는 동적 구성 요소 tf.Tensor 목록으로 인코딩됩니다. 예를 들어, tf.function은 인수에 이전에 볼 수 없는 TypeSpec tf.function .

@tf.function def anonymize_player(player): print("<<TRACING>>") return Player("<anonymous>", player.attributes) # Function gets traced (first time the function has been called): anonymize_player(Player("Anne", {"height": 8.3, "speed": 28.1})) # Function does NOT get traced (same TypeSpec: just tensor values changed) anonymize_player(Player("Bart", {"height": 8.1, "speed": 25.3})) # Function gets traced (new TypeSpec: keys for attributes changed): anonymize_player(Player("Chuck", {"height": 11.0, "jump": 5.3}))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

6b9fbef3eddbcd5f667fa81aeab466f6

자세한 내용은 tf.function 가이드를 참조하십시오. ExtensionType 사용자 정의 단순히 필드와 해당 유형을 선언하는 것 외에도 확장 유형은 다음을 수행할 수 있습니다. 기본 인쇄 가능한 표현( __repr__ )을 재정의합니다. 방법을 정의합니다. 클래스 메서드와 정적 메서드를 정의합니다. 속성을 정의합니다. 기본 생성자( __init__ )를 재정의합니다. 기본 항등 연산자( __eq__ )를 재정의합니다. 연산자를 정의합니다(예: __add__ 및 __lt__ ). 필드의 기본값을 선언합니다. 하위 클래스를 정의합니다. 기본 인쇄 가능한 표현 재정의 확장 유형에 대해 이 기본 문자열 변환 연산자를 재정의할 수 있습니다. 다음 예제에서는 값이 Eager 모드에서 인쇄될 때 더 읽기 쉬운 문자열 표현을 생성 MaskedTensor

class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor # shape=values.shape; false for invalid values. def __repr__(self): return masked_tensor_str(self.values, self.mask) def masked_tensor_str(values, mask): if isinstance(values, tf.Tensor): if hasattr(values, 'numpy') and hasattr(mask, 'numpy'): return f'<MaskedTensor {masked_tensor_str(values.numpy(), mask.numpy())}>' else: return f'MaskedTensor(values={values}, mask={mask})' if len(values.shape) == 1: items = [repr(v) if m else '_' for (v, m) in zip(values, mask)] else: items = [masked_tensor_str(v, m) for (v, m) in zip(values, mask)] return '[%s]' % ', '.join(items) mt = MaskedTensor(values=[[1, 2, 3], [4, 5, 6]], mask=[[True, True, False], [True, False, True]]) print(mt)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

39f7827f01b937956b2f4a747a039647

메소드 정의 확장 유형은 일반 Python 클래스와 마찬가지로 메서드를 정의할 수 있습니다. 예를 들어 MaskedTensor default 대체된 마스킹된 값 self 의 복사본을 반환하는 with_default 메서드를 정의할 수 있습니다. @tf.function 데코레이터로 주석을 달 수 있습니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def with_default(self, default): return tf.where(self.mask, self.values, default) MaskedTensor([1, 2, 3], [True, False, True]).with_default(0)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

f602c9035325db46fc507d1b7c10e507

클래스 메서드 및 정적 메서드 정의 @classmethod 및 @staticmethod 데코레이터를 사용하여 메소드를 정의할 수 있습니다. 예를 들어 MaskedTensor 유형은 주어진 값으로 모든 요소를 마스킹하는 팩토리 메소드를 정의할 수 있습니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def __repr__(self): return masked_tensor_str(self.values, self.mask) @staticmethod def from_tensor_and_value_to_mask(values, value_to_mask): return MaskedTensor(values, values == value_to_mask) x = tf.constant([[1, 0, 2], [3, 0, 0]]) MaskedTensor.from_tensor_and_value_to_mask(x, 0)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

3ddbba144651725495c2ae81dc0d118e

속성 정의 확장 유형은 일반 Python 클래스와 마찬가지로 @property 데코레이터를 사용하여 속성을 정의할 수 있습니다. 예를 들어 MaskedTensor 유형은 값의 dtype에 대한 약칭인 dtype 속성을 정의할 수 있습니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor @property def dtype(self): return self.values.dtype MaskedTensor([1, 2, 3], [True, False, True]).dtype

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

a363cc69b424c1cf43324a6037fa2348

기본 생성자 재정의 확장 유형에 대한 기본 생성자를 재정의할 수 있습니다. 사용자 정의 생성자는 선언된 모든 필드에 대해 값을 설정해야 합니다. 사용자 정의 생성자가 반환된 후 모든 필드가 유형 검사되고 위에서 설명한 대로 값이 변환됩니다.

class Toy(tf.experimental.ExtensionType): name: str price: tf.Tensor def __init__(self, name, price, discount=0): self.name = name self.price = price * (1 - discount) print(Toy("ball", 5.0, discount=0.2)) # On sale -- 20% off!

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

0dbaae94605a6e6e9e2cf185c1fcdf24

또는 기본 생성자를 그대로 두고 하나 이상의 팩토리 메소드를 추가하는 것을 고려할 수 있습니다. 예:

class Toy(tf.experimental.ExtensionType): name: str price: tf.Tensor @staticmethod def new_toy_with_discount(name, price, discount): return Toy(name, price * (1 - discount)) print(Toy.new_toy_with_discount("ball", 5.0, discount=0.2))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

3240e7a4a42d5a6170bce30093892028

기본 항등 연산자 재정의( __eq__ ) 확장 유형에 대한 __eq__ 연산자를 재정의할 수 있습니다. 다음 예제에서는 MaskedTensor 비교할 때 마스크된 요소를 무시하도록 MaskedTensor를 업데이트합니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def __repr__(self): return masked_tensor_str(self.values, self.mask) def __eq__(self, other): result = tf.math.equal(self.values, other.values) result = result | ~(self.mask & other.mask) return tf.reduce_all(result) x = MaskedTensor([1, 2, 3, 4], [True, True, False, True]) y = MaskedTensor([5, 2, 0, 4], [False, True, False, True]) print(x == y)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

12804ecc225a4527e4d50daf0202f4ef

참고: 기본 구현은 단순히 __eq__ 를 호출하고 결과를 무효화하기 __ne__ 를 재정의할 필요가 없습니다. 정방향 참조 사용 필드 유형이 아직 정의되지 않은 경우 유형 이름이 포함된 문자열을 대신 사용할 수 있습니다. 다음 예제에서는 Node 유형이 아직 (완전히) 정의되지 않았기 때문에 "Node" children 필드에 주석을 다는 데 사용됩니다.

class Node(tf.experimental.ExtensionType): value: tf.Tensor children: Tuple["Node", ...] = () Node(3, [Node(5), Node(2)])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

cb681a320cede6912e473abd324a224f

서브클래스 정의 확장 유형은 표준 Python 구문을 사용하여 하위 분류될 수 있습니다. 확장 유형 하위 클래스는 새 필드, 메서드 및 속성을 추가할 수 있습니다. 생성자, 인쇄 가능한 표현 및 등호 연산자를 재정의할 수 있습니다. 다음 예제는 세 개의 Tensor 필드를 사용하여 노드 사이의 가장자리 집합을 인코딩하는 TensorGraph 그런 다음 각 노드에 대한 "기능 값"을 기록하기 위해 Tensor 필드를 추가하는 하위 클래스를 정의합니다. 또한 하위 클래스는 가장자리를 따라 특성 값을 전파하는 방법을 정의합니다.

class TensorGraph(tf.experimental.ExtensionType): num_nodes: tf.Tensor edge_src: tf.Tensor # edge_src[e] = index of src node for edge e. edge_dst: tf.Tensor # edge_dst[e] = index of dst node for edge e. class TensorGraphWithNodeFeature(TensorGraph): node_features: tf.Tensor # node_features[n] = feature value for node n. def propagate_features(self, weight=1.0) -> 'TensorGraphWithNodeFeature': updates = tf.gather(self.node_features, self.edge_src) * weight new_node_features = tf.tensor_scatter_nd_add( self.node_features, tf.expand_dims(self.edge_dst, 1), updates) return TensorGraphWithNodeFeature( self.num_nodes, self.edge_src, self.edge_dst, new_node_features) g = TensorGraphWithNodeFeature( # Edges: 0->1, 4->3, 2->2, 2->1 num_nodes=5, edge_src=[0, 4, 2, 2], edge_dst=[1, 3, 2, 1], node_features=[10.0, 0.0, 2.0, 5.0, -1.0, 0.0]) print("Original features:", g.node_features) print("After propagating:", g.propagate_features().node_features)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

b5fae141c11137008416f645e1f9ac80

개인 필드 정의 확장 유형의 필드는 접두사에 밑줄을 붙여 비공개로 표시할 수 있습니다(표준 Python 규칙에 따라). 이것은 TensorFlow가 어떤 식으로든 필드를 처리하는 방식에 영향을 미치지 않습니다. 그러나 단순히 확장 유형의 모든 사용자에게 해당 필드가 비공개라는 신호 역할을 합니다. ExtensionType의 TypeSpec 각 ExtensionType 클래스에는 자동으로 생성되고 &lt;extension_type_name&gt;.Spec TypeSpec 클래스가 있습니다. 자세한 내용은 위의 "중첩된 TypeSpec" 섹션을 참조하세요. TypeSpec 을 사용자 정의하려면 Spec 이라는 자체 중첩 클래스를 정의하기만 하면 ExtensionType 이 이를 자동으로 생성된 TypeSpec 의 기초로 사용합니다. Spec 클래스를 사용자 정의할 수 있습니다. 기본 인쇄 가능한 표현을 재정의합니다. 기본 생성자를 재정의합니다. 메서드, 클래스 메서드, 정적 메서드 및 속성을 정의합니다. 다음 예제에서는 사용하기 쉽도록 MaskedTensor.Spec 클래스를 사용자 지정합니다.

class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) def __repr__(self): return masked_tensor_str(self.values, self.mask) def with_values(self, new_values): return MaskedTensor(new_values, self.mask) class Spec: def __init__(self, shape, dtype=tf.float32): self.values = tf.TensorSpec(shape, dtype) self.mask = tf.TensorSpec(shape, tf.bool) def __repr__(self): return f"MaskedTensor.Spec(shape={self.shape}, dtype={self.dtype})" shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

3730bc723d46fd4157f5d18150c5b7ed

참고 : 사용자 정의 Spec ExtensionType 선언되지 않은 인스턴스 변수를 사용할 수 없습니다. 텐서 API 디스패치 tf.Tensor 유형에 의해 정의된 인터페이스를 전문화하거나 확장한다는 점에서 "텐서와 유사"할 수 있습니다. 텐서와 유사한 확장 유형의 예로는 RaggedTensor , SparseTensor 및 MaskedTensor 있습니다. 디스패치 데코레이터 는 텐서와 유사한 확장 유형에 적용될 때 TensorFlow 작업의 기본 동작을 재정의하는 데 사용할 수 있습니다. TensorFlow는 현재 세 가지 디스패치 데코레이터를 정의합니다. @tf.experimental.dispatch_for_api(tf_api) @tf.experimental.dispatch_for_unary_elementwise_api(x_type) @tf.experimental.dispatch_for_binary_elementwise_apis(x_type, y_type) 단일 API에 대한 디스패치 tf.experimental.dispatch_for_api 데코레이터는 지정된 서명으로 호출될 때 지정된 TensorFlow 작업의 기본 동작을 재정의합니다. 예를 들어 이 데코레이터를 사용하여 tf.stack 이 MaskedTensor 값을 처리하는 방법을 지정할 수 있습니다.

@tf.experimental.dispatch_for_api(tf.stack) def masked_stack(values: List[MaskedTensor], axis = 0): return MaskedTensor(tf.stack([v.values for v in values], axis), tf.stack([v.mask for v in values], axis))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

64de0acfd306952c47b636a792d4f524

MaskedTensor 값 목록과 함께 호출될 때마다 tf.stack 대한 기본 구현을 재정의 values typing.List[MaskedTensor] 주석으로 지정되어 있기 때문입니다):

x = MaskedTensor([1, 2, 3], [True, True, False]) y = MaskedTensor([4, 5, 6], [False, True, True]) tf.stack([x, y])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

dcafafb56a3e02388d6b31254078abd6

tf.stack 이 혼합된 MaskedTensor 및 Tensor 값 목록을 처리할 수 있도록 하려면 values 매개변수에 대한 유형 주석을 구체화하고 함수 본문을 적절하게 업데이트할 수 있습니다.

tf.experimental.unregister_dispatch_for(masked_stack) def convert_to_masked_tensor(x): if isinstance(x, MaskedTensor): return x else: return MaskedTensor(x, tf.ones_like(x, tf.bool)) @tf.experimental.dispatch_for_api(tf.stack) def masked_stack_v2(values: List[Union[MaskedTensor, tf.Tensor]], axis = 0): values = [convert_to_masked_tensor(v) for v in values] return MaskedTensor(tf.stack([v.values for v in values], axis), tf.stack([v.mask for v in values], axis)) x = MaskedTensor([1, 2, 3], [True, True, False]) y = tf.constant([4, 5, 6]) tf.stack([x, y, x])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

353cd872d0bbc46ac9c6e2714c0c6894

재정의할 수 있는 API 목록은 tf.experimental.dispatch_for_api 대한 API 설명서를 참조하세요. 모든 단항 요소별 API에 대한 디스패치 tf.experimental.dispatch_for_unary_elementwise_apis 데코레이터는 첫 번째 인수(일반적으로 이름이 x )에 대한 값이 유형 주석 x_type 과 일치할 때마다 모든 단항 요소별 연산(예: tf.math.cos )의 기본 동작을 재정의합니다. 데코레이팅된 함수는 두 개의 인수를 취해야 합니다. api_func : 단일 매개변수를 취하고 요소별 연산을 수행하는 함수(예: tf.abs ). x : 요소별 연산의 첫 번째 인수입니다. MaskedTensor 유형을 처리하기 위해 모든 단항 요소별 연산을 업데이트합니다.

@tf.experimental.dispatch_for_unary_elementwise_apis(MaskedTensor) def masked_tensor_unary_elementwise_api_handler(api_func, x): return MaskedTensor(api_func(x.values), x.mask)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

6111e366ca3e32b869af3c6a6d32e7fe

MaskedTensor 에서 단항 요소별 연산이 호출될 때마다 사용됩니다.

x = MaskedTensor([1, -2, -3], [True, False, True]) print(tf.abs(x)) print(tf.ones_like(x, dtype=tf.float32))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

f0d76b9e5ea87bd5bf026e8bbe7624f8

바이너리 모든 요소별 API에 대한 디스패치 마찬가지로 tf.experimental.dispatch_for_binary_elementwise_apis MaskedTensor 유형을 처리하기 위해 모든 바이너리 요소별 연산을 업데이트하는 데 사용할 수 있습니다.

@tf.experimental.dispatch_for_binary_elementwise_apis(MaskedTensor, MaskedTensor) def masked_tensor_binary_elementwise_api_handler(api_func, x, y): return MaskedTensor(api_func(x.values, y.values), x.mask & y.mask) x = MaskedTensor([1, -2, -3], [True, False, True]) y = MaskedTensor([[4], [5]], [[True], [False]]) tf.math.add(x, y)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

aa4f6b6316221929ee8ecdc6ef7675d8

재정의되는 요소별 API 목록은 tf.experimental.dispatch_for_unary_elementwise_apis 및 tf.experimental.dispatch_for_binary_elementwise_apis 대한 API 문서를 참조하세요. 일괄 처리 가능한 확장 유형 ExtensionType 단일 인스턴스 값의 배치를 나타내는 데 사용할 수있는 경우 batchable이다. Tensor 배치 차원을 추가하여 수행됩니다. 다음 TensorFlow API를 사용하려면 모든 확장 유형 입력이 일괄 처리 가능해야 합니다. tf.data.Dataset ( batch , unbatch , from_tensor_slices ) tf.Keras ( fit , evaluate , predict ) tf.map_fn 기본적으로 BatchableExtensionType Tensor , CompositeTensor 및 ExtensionType 일괄 처리하여 일괄 처리된 값을 생성합니다. 이것이 클래스에 적합하지 않은 경우 tf.experimental.ExtensionTypeBatchEncoder 를 사용하여 이 기본 동작을 재정의해야 합니다. 예를 들어, 개별 희소 텐서의 values , indices 및 dense_shape tf.SparseTensor 값의 배치를 만드는 것은 적절하지 않습니다. 대부분의 경우 이러한 텐서는 호환되지 않는 모양을 가지고 있기 때문에 스택할 수 없습니다. ; 가능하더라도 결과는 유효한 SparseTensor . 참고 : BatchableExtensionType tf.stack , tf.concat , tf.slice 등에 대한 디스패처를 자동으로 정의하지 않습니다 . 이러한 API에서 클래스를 지원해야 하는 경우 위에서 설명한 디스패치 데코레이터를 사용하세요. BatchableExtensionType 예: 네트워크 Network 클래스를 생각해 보십시오. 이 클래스는 각 노드에서 수행해야 할 작업의 양과 노드 간에 작업을 이동하는 데 사용할 수 있는 대역폭을 추적합니다.

class Network(tf.experimental.ExtensionType): # This version is not batchable. work: tf.Tensor # work[n] = work left to do at node n bandwidth: tf.Tensor # bandwidth[n1, n2] = bandwidth from n1->n2 net1 = Network([5., 3, 8], [[0., 2, 0], [2, 0, 3], [0, 3, 0]]) net2 = Network([3., 4, 2], [[0., 2, 2], [2, 0, 2], [2, 2, 0]])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

24e590ec6a8ef81d874edb7aa60df188

이 유형을 일괄 처리 가능하게 만들려면 기본 유형을 BatchableExtensionType 변경하고 선택적 일괄 처리 차원을 포함하도록 각 필드의 모양을 조정합니다. 다음 예제에서는 배치 모양을 추적하기 shape 필드도 추가합니다. 이 shape 필드는 필요로하지 않는 tf.data.Dataset 또는 tf.map_fn 있지만 요구하는 tf.Keras .

class Network(tf.experimental.BatchableExtensionType): shape: tf.TensorShape # batch shape. A single network has shape=[]. work: tf.Tensor # work[*shape, n] = work left to do at node n bandwidth: tf.Tensor # bandwidth[*shape, n1, n2] = bandwidth from n1->n2 def __init__(self, work, bandwidth): self.work = tf.convert_to_tensor(work) self.bandwidth = tf.convert_to_tensor(bandwidth) work_batch_shape = self.work.shape[:-1] bandwidth_batch_shape = self.bandwidth.shape[:-2] self.shape = work_batch_shape.merge_with(bandwidth_batch_shape) def __repr__(self): return network_repr(self) def network_repr(network): work = network.work bandwidth = network.bandwidth if hasattr(work, 'numpy'): work = ' '.join(str(work.numpy()).split()) if hasattr(bandwidth, 'numpy'): bandwidth = ' '.join(str(bandwidth.numpy()).split()) return (f"<Network shape={network.shape} work={work} bandwidth={bandwidth}>") net1 = Network([5., 3, 8], [[0., 2, 0], [2, 0, 3], [0, 3, 0]]) net2 = Network([3., 4, 2], [[0., 2, 2], [2, 0, 2], [2, 2, 0]]) batch_of_networks = Network( work=tf.stack([net1.work, net2.work]), bandwidth=tf.stack([net1.bandwidth, net2.bandwidth])) print(f"net1={net1}") print(f"net2={net2}") print(f"batch={batch_of_networks}")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

97ec4e2441e650ae15650e5b4281349c

tf.data.Dataset 을 사용하여 네트워크 배치를 반복할 수 있습니다.

dataset = tf.data.Dataset.from_tensor_slices(batch_of_networks) for i, network in enumerate(dataset): print(f"Batch element {i}: {network}")

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

80dc35c8bbb52fad9695dbea4d0dab20

map_fn 을 사용하여 각 배치 요소에 함수를 적용할 수도 있습니다.

def balance_work_greedy(network): delta = (tf.expand_dims(network.work, -1) - tf.expand_dims(network.work, -2)) delta /= 4 delta = tf.maximum(tf.minimum(delta, network.bandwidth), -network.bandwidth) new_work = network.work + tf.reduce_sum(delta, -1) return Network(new_work, network.bandwidth) tf.map_fn(balance_work_greedy, batch_of_networks)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

9a33db2691085ab72cddab5ed96c1580

ExtensionTypes를 지원하는 TensorFlow API @tf.function tf.function 은 TensorFlow 코드의 성능을 크게 향상시킬 수 있는 Python 함수용 TensorFlow 그래프를 미리 계산하는 데코레이터입니다. @tf.function 함수와 함께 투명하게 사용할 수 있습니다.

class Pastry(tf.experimental.ExtensionType): sweetness: tf.Tensor # 2d embedding that encodes sweetness chewiness: tf.Tensor # 2d embedding that encodes chewiness @tf.function def combine_pastry_features(x: Pastry): return (x.sweetness + x.chewiness) / 2 cookie = Pastry(sweetness=[1.2, 0.4], chewiness=[0.8, 0.2]) combine_pastry_features(cookie)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

63d63fc09c92dbe4e0d08d16452025ba

input_signature 대해 tf.function 를 명시적으로 지정 TypeSpec 사용하여 지정할 수 있습니다.

pastry_spec = Pastry.Spec(tf.TensorSpec([2]), tf.TensorSpec(2)) @tf.function(input_signature=[pastry_spec]) def increase_sweetness(x: Pastry, delta=1.0): return Pastry(x.sweetness + delta, x.chewiness) increase_sweetness(cookie)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

044bd09ebce5a9429eed4808b3e6754c

구체적인 기능 tf.function 의해 구축된 개별 추적 그래프를 캡슐화합니다. 확장 유형은 구체적인 기능과 함께 투명하게 사용할 수 있습니다.

cf = combine_pastry_features.get_concrete_function(pastry_spec) cf(cookie)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

f37627e21e70385efc417fe15cc7cee3

제어 흐름 작업 확장 유형은 TensorFlow의 제어 흐름 작업에서 지원됩니다. tf.cond tf.case tf.while_loop tf.identity

# Example: using tf.cond to select between two MaskedTensors. Note that the # two MaskedTensors don't need to have the same shape. a = MaskedTensor([1., 2, 3], [True, False, True]) b = MaskedTensor([22., 33, 108, 55], [True, True, True, False]) condition = tf.constant(True) print(tf.cond(condition, lambda: a, lambda: b)) # Example: using tf.while_loop with MaskedTensor. cond = lambda i, _: i < 10 def body(i, mt): return i + 1, mt.with_values(mt.values + 3 / 7) print(tf.while_loop(cond, body, [0, b])[1])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

c83bcc13b45601cdf9260bacfaebaec4

사인 제어 흐름 확장 유형은 tf.function의 제어 흐름 문에서도 지원됩니다(autograph 사용). 다음 예에서 if 문과 for 문은 확장 유형을 지원 tf.cond 및 tf.while_loop 작업으로 자동 변환됩니다.

@tf.function def fn(x, b): if b: x = MaskedTensor(x, tf.less(x, 0)) else: x = MaskedTensor(x, tf.greater(x, 0)) for i in tf.range(5 if b else 7): x = x.with_values(x.values + 1 / 2) return x print(fn(tf.constant([1., -2, 3]), tf.constant(True))) print(fn(tf.constant([1., -2, 3]), tf.constant(False)))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

c8252206b963a7da687910c1730d0398

케라스 tf.keras 는 딥 러닝 모델을 구축하고 훈련하기 위한 TensorFlow의 고급 API입니다. 확장 유형은 Keras 모델에 대한 입력으로 전달되고, Keras 계층 간에 전달되고, Keras 모델에서 반환될 수 있습니다. Keras는 현재 확장 유형에 두 가지 요구 사항을 적용합니다. 배치 가능해야 합니다(위의 "배치 가능한 ExtensionType" 참조). shape 이라는 필드 또는 속성이 있어야 합니다. shape[0] 은 배치 차원으로 간주됩니다. 다음 두 하위 섹션에서는 확장 유형을 Keras와 함께 사용하는 방법을 보여주는 예를 제공합니다. Keras 예: Network 첫 번째 예에서는 노드 간의 부하 분산 작업에 사용할 수 있는 위의 "Batchable ExtensionTypes" 섹션에 정의된 Network 그 정의는 여기에서 반복됩니다.

class Network(tf.experimental.BatchableExtensionType): shape: tf.TensorShape # batch shape. A single network has shape=[]. work: tf.Tensor # work[*shape, n] = work left to do at node n bandwidth: tf.Tensor # bandwidth[*shape, n1, n2] = bandwidth from n1->n2 def __init__(self, work, bandwidth): self.work = tf.convert_to_tensor(work) self.bandwidth = tf.convert_to_tensor(bandwidth) work_batch_shape = self.work.shape[:-1] bandwidth_batch_shape = self.bandwidth.shape[:-2] self.shape = work_batch_shape.merge_with(bandwidth_batch_shape) def __repr__(self): return network_repr(self) single_network = Network( # A single network w/ 4 nodes. work=[8.0, 5, 12, 2], bandwidth=[[0.0, 1, 2, 2], [1, 0, 0, 2], [2, 0, 0, 1], [2, 2, 1, 0]]) batch_of_networks = Network( # Batch of 2 networks, each w/ 2 nodes. work=[[8.0, 5], [3, 2]], bandwidth=[[[0.0, 1], [1, 0]], [[0, 2], [2, 0]]])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

682f8cf0226763ad199827023800b1c5

Network 를 처리하는 새로운 Keras 계층을 정의할 수 있습니다.

class BalanceNetworkLayer(tf.keras.layers.Layer): """Layer that balances work between nodes in a network. Shifts work from more busy nodes to less busy nodes, constrained by bandwidth. """ def call(self, inputs): # This function is defined above, in "Batchable ExtensionTypes" section. return balance_work_greedy(inputs)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

8758e00d1795d0dc915294f8b0d5e468

그런 다음 이 레이어를 사용하여 간단한 모델을 만들 수 있습니다. ExtensionType 을 모델에 제공하려면 type_spec 이 확장 유형의 TypeSpec tf.keras.layer.Input 레이어를 사용할 수 있습니다. Keras 모델을 사용하여 배치를 처리하는 경우 type_spec 에 배치 차원이 포함되어야 합니다.

input_spec = Network.Spec(shape=None, work=tf.TensorSpec(None, tf.float32), bandwidth=tf.TensorSpec(None, tf.float32)) model = tf.keras.Sequential([ tf.keras.layers.Input(type_spec=input_spec), BalanceNetworkLayer(), ])

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

cd7a8ba20190183a804fe18c38b7fb95

마지막으로 단일 네트워크와 네트워크 배치에 모델을 적용할 수 있습니다.

model(single_network) model(batch_of_networks)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

6c41e93d1adf2fe7e56a649caa04a5fb

케라스 예시: MaskedTensor 이 예에서 MaskedTensor Keras 를 지원하도록 확장되었습니다. shape values 필드에서 계산되는 속성으로 정의됩니다. TypeSpec 모두에 이 속성을 추가해야 합니다. MaskedTensor SavedModel 직렬화에 필요한 __name__ 변수도 정의합니다(아래 참조).

class MaskedTensor(tf.experimental.BatchableExtensionType): # __name__ is required for serialization in SavedModel; see below for details. __name__ = 'extension_type_colab.MaskedTensor' values: tf.Tensor mask: tf.Tensor shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) def with_default(self, default): return tf.where(self.mask, self.values, default) def __repr__(self): return masked_tensor_str(self.values, self.mask) class Spec: def __init__(self, shape, dtype=tf.float32): self.values = tf.TensorSpec(shape, dtype) self.mask = tf.TensorSpec(shape, tf.bool) shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) def with_shape(self): return MaskedTensor.Spec(tf.TensorSpec(shape, self.values.dtype), tf.TensorSpec(shape, self.mask.dtype))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

87709f55a5ad3fdcd246851847ac5395

다음으로 디스패치 데코레이터는 여러 TensorFlow API의 기본 동작을 재정의하는 데 사용됩니다. 이러한 API는 표준 Keras 레이어(예: Dense MaskedTensor 와 함께 해당 레이어를 사용할 수 있습니다. 이 예의 목적을 matmul 은 마스킹된 값을 0으로 처리하도록 정의됩니다(즉, 제품에 포함하지 않기 위해).

@tf.experimental.dispatch_for_unary_elementwise_apis(MaskedTensor) def unary_elementwise_op_handler(op, x): return MaskedTensor(op(x.values), x.mask) @tf.experimental.dispatch_for_binary_elementwise_apis( Union[MaskedTensor, tf.Tensor], Union[MaskedTensor, tf.Tensor]) def binary_elementwise_op_handler(op, x, y): x = convert_to_masked_tensor(x) y = convert_to_masked_tensor(y) return MaskedTensor(op(x.values, y.values), x.mask & y.mask) @tf.experimental.dispatch_for_api(tf.matmul) def masked_matmul(a: MaskedTensor, b, transpose_a=False, transpose_b=False, adjoint_a=False, adjoint_b=False, a_is_sparse=False, b_is_sparse=False, output_type=None): if isinstance(a, MaskedTensor): a = a.with_default(0) if isinstance(b, MaskedTensor): b = b.with_default(0) return tf.matmul(a, b, transpose_a, transpose_b, adjoint_a, adjoint_b, a_is_sparse, b_is_sparse, output_type)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

79879cc2ab73070cab7cd7290ebdba9a

그런 다음 표준 Keras 레이어를 사용하여 MaskedTensor 입력을 허용하는 Keras 모델을 구성할 수 있습니다.

input_spec = MaskedTensor.Spec([None, 2], tf.float32) masked_tensor_model = tf.keras.Sequential([ tf.keras.layers.Input(type_spec=input_spec), tf.keras.layers.Dense(16, activation="relu"), tf.keras.layers.Dense(1)]) masked_tensor_model.compile(loss='binary_crossentropy', optimizer='rmsprop') a = MaskedTensor([[1., 2], [3, 4], [5, 6]], [[True, False], [False, True], [True, True]]) masked_tensor_model.fit(a, tf.constant([[1], [0], [1]]), epochs=3) print(masked_tensor_model(a))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

9efa4f45901f7ada6ad536851771af1e

저장된 모델 SavedModel 은 가중치와 계산을 모두 포함하는 직렬화된 TensorFlow 프로그램입니다. Keras 모델 또는 사용자 지정 모델에서 구축할 수 있습니다. 두 경우 모두 확장 유형은 SavedModel에 의해 정의된 함수 및 메소드와 함께 투명하게 사용될 수 있습니다. __name__ 필드가 있는 한 확장 유형을 처리하는 모델, 계층 및 함수를 저장할 수 있습니다. 이 이름은 확장 유형을 등록하는 데 사용되므로 모델을 로드할 때 찾을 수 있습니다. 예: Keras 모델 저장 확장 유형을 사용하는 SavedModel 사용하여 저장할 수 있습니다.

masked_tensor_model_path = tempfile.mkdtemp() tf.saved_model.save(masked_tensor_model, masked_tensor_model_path) imported_model = tf.saved_model.load(masked_tensor_model_path) imported_model(a)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

4fcf8152ff11dca05cd0f309b1235ae7

예: 사용자 정의 모델 저장 SavedModel은 확장 유형을 처리하는 함수로 tf.Module 하위 클래스를 저장하는 데 사용할 수도 있습니다.

class CustomModule(tf.Module): def __init__(self, variable_value): super().__init__() self.v = tf.Variable(variable_value) @tf.function def grow(self, x: MaskedTensor): """Increase values in `x` by multiplying them by `self.v`.""" return MaskedTensor(x.values * self.v, x.mask) module = CustomModule(100.0) module.grow.get_concrete_function(MaskedTensor.Spec(shape=None, dtype=tf.float32)) custom_module_path = tempfile.mkdtemp() tf.saved_model.save(module, custom_module_path) imported_model = tf.saved_model.load(custom_module_path) imported_model.grow(MaskedTensor([1., 2, 3], [False, True, False]))

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

e33d44ea33c1167bfefa82ee8cbf0983

ExtensionType을 사용할 수 없을 때 저장된 모델 로드 ExtensionType 을 사용하는 SavedModel 을 로드하지만 해당 ExtensionType 사용할 수 없는 경우(즉, 가져오지 않은 경우) 경고가 표시되고 TensorFlow는 "익명 확장 유형" 개체를 사용하도록 대체합니다. 이 개체는 원래 유형과 동일한 필드를 갖지만 사용자 정의 메소드 또는 속성과 같이 유형에 추가한 추가 사용자 정의가 부족합니다. TensorFlow 제공과 함께 ExtensionType 사용 현재 TensorFlow 서비스 (및 SavedModel "서명" 사전의 다른 소비자)는 모든 입력 및 출력이 원시 텐서가 되어야 합니다. 확장 유형을 사용하는 모델과 함께 TensorFlow 서비스를 사용하려는 경우 텐서에서 확장 유형 값을 구성하거나 분해하는 래퍼 메서드를 추가할 수 있습니다. 예:

class CustomModuleWrapper(tf.Module): def __init__(self, variable_value): super().__init__() self.v = tf.Variable(variable_value) @tf.function def var_weighted_mean(self, x: MaskedTensor): """Mean value of unmasked values in x, weighted by self.v.""" x = MaskedTensor(x.values * self.v, x.mask) return (tf.reduce_sum(x.with_default(0)) / tf.reduce_sum(tf.cast(x.mask, x.dtype))) @tf.function() def var_weighted_mean_wrapper(self, x_values, x_mask): """Raw tensor wrapper for var_weighted_mean.""" return self.var_weighted_mean(MaskedTensor(x_values, x_mask)) module = CustomModuleWrapper([3., 2., 8., 5.]) module.var_weighted_mean_wrapper.get_concrete_function( tf.TensorSpec(None, tf.float32), tf.TensorSpec(None, tf.bool)) custom_module_path = tempfile.mkdtemp() tf.saved_model.save(module, custom_module_path) imported_model = tf.saved_model.load(custom_module_path) x = MaskedTensor([1., 2., 3., 4.], [False, True, False, True]) imported_model.var_weighted_mean_wrapper(x.values, x.mask)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

9a7fd2a67bc61f8b07ff67ce7920c150

데이터세트 tf.data 는 간단하고 재사용 가능한 부분으로 복잡한 입력 파이프라인을 구축할 수 있는 API입니다. 핵심 데이터 구조는 tf.data.Dataset 이며, 이는 각 요소가 하나 이상의 구성 요소로 구성된 일련의 요소를 나타냅니다. 확장 유형으로 데이터세트 빌드 Dataset.from_tensors , Dataset.from_tensor_slices 또는 Dataset.from_generator 사용하여 확장 유형 값에서 데이터 세트를 빌드할 수 있습니다.

ds = tf.data.Dataset.from_tensors(Pastry(5, 5)) iter(ds).next() mt = MaskedTensor(tf.reshape(range(20), [5, 4]), tf.ones([5, 4])) ds = tf.data.Dataset.from_tensor_slices(mt) for value in ds: print(value) def value_gen(): for i in range(2, 7): yield MaskedTensor(range(10), [j%i != 0 for j in range(10)]) ds = tf.data.Dataset.from_generator( value_gen, output_signature=MaskedTensor.Spec(shape=[10], dtype=tf.int32)) for value in ds: print(value)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

2477207abb42dca6f440ba426bf2e034

확장 유형이 있는 데이터 세트 일괄 처리 및 일괄 해제 확장 유형의 데이터 세트를 사용하여 batchand 및 unbatched 수 있습니다 Dataset.batch ADN Dataset.unbatch .

batched_ds = ds.batch(2) for value in batched_ds: print(value) unbatched_ds = batched_ds.unbatch() for value in unbatched_ds: print(value)

site/ko/guide/extension_type.ipynb

tensorflow/docs-l10n

apache-2.0

6cf51e7c2710f3ea5781323b3a4685f6

The concrete loss function can be set via the loss parameter. SGDClassifier supports the following loss functions: <ul> <li>loss="hinge": (soft-margin) linear Support Vector Machine, <li>loss="modified_huber": smoothed hinge loss, <li>loss="log": logistic regression, <li>and all regression losses below. </ul> The first two loss functions are lazy, they only update the model parameters if an example violates the margin constraint, which makes training very efficient and may result in sparser models, even when L2 penalty is used. Using loss="log" or loss="modified_huber" enables the predict_proba method, which gives a vector of probability estimates P(y|x) per sample x:

clf = SGDClassifier(loss="log").fit(X, y) clf.predict_proba([[1., 1.]])

Lectures/Lecture6-Streams/SGD TESTING.ipynb

hethapu/big-data-python-class

mit

87450905665bae4631fde9575806d05c

The default setting is penalty="l2". The L1 penalty leads to sparse solutions, driving most coefficients to zero. The Elastic Net solves some deficiencies of the L1 penalty in the presence of highly correlated attributes. The parameter l1_ratio controls the convex combination of L1 and L2 penalty.

%matplotlib inline # SGD: Maximum Margin Separating hyperplan import numpy as np import matplotlib.pyplot as plt from sklearn.linear_model import SGDClassifier from sklearn.datasets.samples_generator import make_blobs # we create 50 separable points X, Y = make_blobs(n_samples=50, centers=2, random_state=0, cluster_std=0.60) # fit the model clf = SGDClassifier(loss="hinge", alpha=0.01, n_iter=200, fit_intercept=True) clf.fit(X, Y) # plot the line, the points, and the nearest vectors to the plane xx = np.linspace(-1, 5, 10) yy = np.linspace(-1, 5, 10) X1, X2 = np.meshgrid(xx, yy) Z = np.empty(X1.shape) for (i, j), val in np.ndenumerate(X1): x1 = val x2 = X2[i, j] p = clf.decision_function([x1, x2]) Z[i, j] = p[0] levels = [-1.0, 0.0, 1.0] linestyles = ['dashed', 'solid', 'dashed'] colors = 'k' plt.contour(X1, X2, Z, levels, colors=colors, linestyles=linestyles) plt.scatter(X[:, 0], X[:, 1], c=Y, cmap=plt.cm.Paired) plt.axis('tight') plt.show()

Lectures/Lecture6-Streams/SGD TESTING.ipynb

hethapu/big-data-python-class

mit

069030658e68ba7b64d2930686d63c38

customized_KoNLPy 에는 현재 트위터 한국어 분석기 만을 이용하는 wrapping class만 제공되고 있습니다. customized_KoNLPy의 Twitter는 본래 KoNLPy의 tag에 추가되는 함수가 있습니다. Twitter.add_dictionary(words, tag)는 사용자가 사전을 추가할 수 있는 부분입니다. 단어를 하나씩 추가할 수 있습니다. 추가한 뒤 Twitter의 숨김 변수인 _dictionary._pos2words를 확인해보면 입력한 단어들을 볼 수 있습니다. git clone을 한 상태에서 tutorial code를 이용하신다면 아래의 코드를 실행하여 path를 추가하십시요

import sys sys.path.append('../') from ckonlpy.tag import Twitter twitter = Twitter() twitter.add_dictionary('이', 'Modifier') twitter.add_dictionary('우리', 'Modifier') twitter.add_dictionary('이번', 'Modifier') twitter.add_dictionary('아이오아이', 'Noun') twitter.add_dictionary('행사', 'Noun') twitter.add_dictionary('아이', 'Noun') twitter.add_dictionary('번것', 'Noun') twitter.add_dictionary('것', 'Noun') twitter.add_dictionary('은', 'Josa') twitter.add_dictionary('는', 'Josa') twitter._dictionary._pos2words

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

00f84f7ee3ffa3b124cf70cf540e9305

사전을 추가한 뒤, '아이오아이'가 명사로 제대로 인식됨을 확인할 수 있습니다.

twitter.pos('우리아이오아이는 정말 이뻐요') twitter.pos('아이오아이 이뻐요')

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

759279028f6bd2e152dd00ce4e28f29c

사전을 추가할 때, 하나의 품사에 대하여 동시에 여러 개의 단어셋을 입력할 수도 있습니다. Twitter.add_dictionary(words, tag)는 한번에 list of str 형식의 여러 개의 단어들을 입력할 수도 있습니다.

twitter.add_dictionary(['트와이스', 'tt', '트둥이', '꺼', '우리'], 'Noun') twitter._dictionary._pos2words twitter.pos('트와이스tt는 좋아요')

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

997a518c1d14117c75e6748344035842

트위터 분석기의 조사사전을 이용할 수도 있습니다. Twitter()를 만들 때 argument를 넣을 수 있습니다.

twitter1 = Twitter(load_default_dictionary=True) len(twitter1._dictionary._pos2words['Josa'])

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

5e6022bdb93143e1a6a3c33de12de1f0

하지만 아직 '우리트둥이꺼tt는' 이라는 어절이 제대로 인식되지 않습니다. 그 이유는 templates에 'Noun + Noun + Josa'가 없었기 때문입니다. 이 경우에는 KoNLPy에 해당 어절을 분석하라고 보냅니다. 하지만 '트둥이'라는 단어를 알지 못해서 제대로 인식되지 않습니다.

twitter.pos('우리트둥이꺼tt는 좋아요')

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

9db0811c41aeb5efa7f3a6c531264e02

현재는 customized_tagger로 탬플릿 기반 토크나이저를 이용하고 있습니다. 어떤 탬플릿이 들어있는지 확인하기 위해서는 아래 부분을 확인하면 됩니다. twitter._customized_tagger.templates 현재는 다음의 탬플릿이 입력되어 있습니다.

twitter._customized_tagger.templates

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

dcaa67d50950617cfd5a4986ae836f7a

기본 탬플릿은 customized_konlpy/data/templates/twitter_templates0 에 저장되어 있습니다. text 형식의 파일이며, 띄어쓰기로 아래와 같은 기본 템플릿을 지정하면 됩니다.

cat ../ckonlpy/data/templates/twitter_templates0

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

1a4029d8d357eb3a7689c2d9473e2ec3

작업 중 탬플릿을 추가하고 싶다면, 탬플릿은 하나 단위로 tuple of str의 형식으로 입력할 수 있습니다. _customized_tagger.add_a_templated()은 중복되는 탬플릿이 아닌지 확인한 다음 탬플릿을 추가하는 함수입니다.

twitter._customized_tagger.add_a_template(('Modifier', 'Noun', 'Noun', 'Noun', 'Josa')) twitter._customized_tagger.templates

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

cdca3caa4c864a97a5c3ec35106cb483

('Noun', 'Noun', 'Josa')가 입력되었고, '트와이스', 'tt'가 명사인지 알고 있기 때문에 아래 문장은 제대로 인식이 됩니다.

twitter.pos('우리트둥이꺼tt는 좋아요')

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

68ab44e7bf5f536e3b0738e4ace7e6e1

사전을 추가할 때, 트위터 한국어 분석기에 존재하지 않는 태그가 들어가는 것을 방지하기 위해 tag의 값을 확인하는 부분이 구현되어 있습니다. twitter.tagset &gt;&gt;&gt; {'Adjective': '형용사', 'Adverb': '부사', 'Alpha': '알파벳', 'Conjunction': '접속사', 'Determiner': '관형사', 'Eomi': '어미', 'Exclamation': '감탄사', 'Foreign': '외국어, 한자 및 기타기호', 'Hashtag': '트위터 해쉬태그', 'Josa': '조사', 'KoreanParticle': '(ex: ㅋㅋ)', 'Modifier': '관형사', 'Noun': '명사', 'Number': '숫자', 'PreEomi': '선어말어미', 'Punctuation': '구두점', 'ScreenName': '트위터 아이디', 'Suffix': '접미사', 'Unknown': '미등록어', 'Verb': '동사'} twitter.tagset에 등록되어 있지 않는 품사에 대해서는 ValueError를 raise 합니다.

twitter.add_dictionary('lovit', 'Name')

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

c9e59e0acf3d94fe305014220d28824e

하지만 Twitter.add_dictionary(words, tag, force=True)로 단어를 사전에 입력하면 알려지지 않은 품사라 하더라도 입력할 수 있습니다.

twitter.add_dictionary('lovit', 'Name', force=True) twitter._dictionary._pos2words

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

8291e4a999bf2aa12a124aa26b0f9465

'Name'이라는 클래스 (더이상 품사가 아니므로)를 이용하는 탬플릿을 하나 입력한 뒤 pos에 입력하면 어절 'lovit은' customized_tagger에 의하여 처리가 되고, 사용자 사전에 알려지지 않은 어절인 '졸려'는 본래의 트위터 분석기에 의하여 처리가 됩니다.

twitter._customized_tagger.add_a_template(('Name', 'Josa')) print(twitter._customized_tagger.templates) twitter.pos('lovit은 이름입니다.')

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

2ca26fd2c267408ac32d8a07ca5de3ca

Templates를 이용하여도 후보가 여러 개 나올 수 있습니다. 여러 개 후보 중에서 best 를 선택하는 함수를 직접 디자인 할 수 도 있습니다. 이처럼 몇 개의 점수 기준을 만들고, 각 기준의 weight를 부여하는 방식은 트위터 분석기에서 이용하는 방식인데, 직관적이고 튜닝 가능해서 매우 좋은 방식이라 생각합니다.

score_weights = { 'num_nouns': -0.1, 'num_words': -0.2, 'no_noun': -1 } def my_score(candidate): num_nouns = len([w for w,t in candidate if t == 'Noun']) num_words = len(candidate) no_noun = 1 if num_nouns == 0 else 0 score = (num_nouns * score_weights['num_nouns'] + num_words * score_weights['num_words'] + no_noun * score_weights['no_noun']) return score twitter.set_selector(score_weights, my_score)

customKonlpy/tutorials/usage_of_templatetagger.ipynb

TeamEmily/Emily_server

mit

ea3749008fdecf4510e99e06a2e1c537

1) Explore the dataset Numerical exploration Load the csv file into memory using Pandas Describe each attribute is it discrete? is it continuous? is it a number? is it text? Identify the target Check if any values are missing Load the csv file into memory using Pandas

df = pd.read_csv('titanic-train.csv')

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

004435b95066fb981740098519bdca0a

What's the content of df ?

df.head(3)

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

51ab71c672f8bb6f6c385ca426b41802

Is Pclass a continuous or discrete class?

df['Pclass'].value_counts()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

15a579e74418ebbbd445b72ec20d36b9

What about these: ('SibSp', 'Parch')?

df['SibSp'].value_counts() df['Parch'].value_counts()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

43087b46045c0fb2f274f7ad0bc799be

and what about these: ('Ticket', 'Fare', 'Cabin', 'Embarked')?

df[['Ticket', 'Fare', 'Cabin']].head(3) df['Embarked'].value_counts()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

fedbf4e59ffbd9410d90071a2404b376

Identify the target What are we trying to predict? ah, yes... Survival!

df['Survived'].value_counts()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

2d687309aef8582c3a4eb7b695407cda

Mental notes so far: Dataset contains 891 entries 1 Target column (Survived) 11 Features: 6 numerical, 5 text 1 useless (PassengerId) 3 categorical (Pclass, Sex, Embarked) 4 numerical, > 0 (Age, SibSp, Parch, Fare) 3 not sure how to treat (Name, Ticket, Cabin) Age is only available for 714 passengers Cabin is only available for 204 passengers Embarked is missing for 2 passengers Visual exploration plot the distribution of Age impute the missing values for Age using the median Age check the influence of Age, Sex and Class on Survival Plot the distribution of Age

df['Age'].plot(kind='hist', figsize=(10,6)) plt.title('Distribution of Age', size = '20') plt.xlabel('Age', size = '20') plt.ylabel('Number of passengers', size = '20') median_age = df['Age'].median() plt.axvline(median_age, color = 'r') median_age

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

ab67877778d4929fc6718ccd0e67b544

impute the missing values for Age using the median Age

df['Age'].fillna(median_age, inplace = True) df.info()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

e55b3855775444b41eedec9b119f7417

check the influence of Age

df[df['Survived']==1]['Age'].plot(kind='hist', bins = 10, range = (0,100), figsize=(10,6), alpha = 0.3, color = 'g') df[df['Survived']==0]['Age'].plot(kind='hist', bins = 10, range = (0,100), figsize=(10,6), alpha = 0.3, color = 'r') plt.title('Distribution of Age', size = '20') plt.xlabel('Age', size = '20') plt.ylabel('Number of passengers', size = '20') plt.legend(['Survived', 'Dead']) plt.show()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

0f244b371dd0e180aaddd29db7d059cd

Check the influence of Sex on Survival

survival_by_gender = df[['Sex','Survived']].pivot_table(columns = ['Survived'], index = ['Sex'], aggfunc=len) survival_by_gender survival_by_gender.plot(kind = 'bar', stacked = True) plt.show()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

4a148d4b26b3ae3722b23423d00636ab

Check the influence of Pclass on Survival

survival_by_Pclass = df[['Pclass','Survived']].pivot_table(columns = ['Survived'], index = ['Pclass'], aggfunc=len) survival_by_Pclass survival_by_Pclass.plot(kind = 'bar', stacked = True) plt.show()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

2b0cb8a68216e93c0e3ff21475730da1

Ok, so, Age and Pclass seem to have some influence on survival rate. Let's build a simple model to test that Define a new feature called "Male" that is 1 if Sex = 'male' and 0 otherwise

df['Male'] = df['Sex'].map({'male': 1, 'female': 0}) df[['Sex', 'Male']].head()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

9130ac2dd03761697b1892f63f78a376

Define simplest model as benchmark The simplest model is a model that predicts 0 for everybody, i.e. no survival. How good is it?

actual_dead = len(df[df['Survived'] == 0]) total_passengers = len(df) ratio_of_dead = actual_dead / float(total_passengers) print "If I predict everybody dies, I'm correct %0.1f %% of the time" % (100 * ratio_of_dead) df['Survived'].value_counts()

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

e9723fb8c046dae9af1762c254cdc5d5

We need to do better than that Define features (X) and target (y) variables

X = df[['Male', 'Pclass', 'Age']] y = df['Survived']

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

99269f99e12c5f2f6568e99e4ef153d4

Initialize a decision tree model

from sklearn.tree import DecisionTreeClassifier model = DecisionTreeClassifier(random_state=0) model

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

8bcb93f2d8050df6395859fc9ddd7dc1

Split the features and the target into a Train and a Test subsets. Ratio should be 80/20

from sklearn.cross_validation import train_test_split X_train, X_test, y_train, y_test = train_test_split(X, y, test_size = 0.2, random_state=0)

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

bac87139cb9b24c04878a2382b9a69d3

Print the confusion matrix for the decision tree model

from sklearn.metrics import confusion_matrix y_pred = model.predict(X_test) print "\n=======confusion matrix==========" print confusion_matrix(y_test, y_pred)

Titanic Survival Workshop.ipynb

Dataweekends/odsc_intro_to_data_science

mit

d3a88ea27ec6c9677ce1b7fc11966498

Numpy: Arrays und effiziente Berechnungen Das Herzstück von Numpy ist das Array. Dieser Datentyp repräsentiert eine Matrix und ist unter der Haube in C implementiert. Dabei wird großer Wert auf effiziente Speichernutzung gelegt. Der gängige Satz "Python ist viel zu langsam" ist also nicht zwingend wahr. Wir können Arrays auf verschiedene Arten erzeugen.

xs = np.array([1, 2, 3, 4]) # Konvertiert eine Python-Liste in ein Numpy-Array print(xs) ys = np.arange(4) # Erzeugt ein Array analog zur `range` Funktion print(ys)

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

8dc220ac508d3236ac7571747dc14e88

Numpy Arrays unterstützen arithmetische Operationen, die wiederum effizient implementiert sind. Beispielsweise lassen sich zwei Arrays (elementweise) addieren sofern sie die gleichen Dimensionen haben.

xs + ys

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

d67dffedc432820303af1aad4d5afa70

Um einen Überblick über alle Features von Numpy zu bekommen, können wir die Hilfe zu Rate ziehen. Zusätzlich zur help Funktion bietet IPython auch die ?-Magie mit einer besseren Integration in Jupyter

np?

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

d4f6f1504f0170445be97e87f5fe844f

Für die Übungsaufgaben werden wir häufig Zufallszahlen brauchen. Dafür bietet sich die Verwendung von np.random an.

np.random? n_events = 10000 gauss = np.random.normal(2, 3, size=n_events) # Erzeuge 10000 Gauß-verteilte Zufallszahlen # mit µ=2 und σ=3.

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

3844e1995dea7be35e0be51641f9bf61

Matplotlib: Schöne Plots Matplotlib bietet sehr intuitive Funktionen um Daten darzustellen. Die sehr ausführliche Dokumentation bietet einen guten Überblick. Wir benutzen an dieser Stelle nur das pyplot Submodul, das uns ein einfaches Interface für die Kernfunktionalität bietet. In der Matplotlib Galerie finden sich viele schöne Beispiele mit Codeschnipseln. Um unsere Gauß-verteilten Zufallszahlen zu histogrammieren benutzen wir einfach plt.hist. Außerdem setzen wir gleich Achsenbeschriftungen.

plt.hist(gauss) plt.xlabel('Wert') plt.ylabel('Absolute Häufigkeit')

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

8cf65b1f1405a1054f2e102577f5925f

Falls dir dieser Plot zu steril ist, können wir den Stil der bekannten R-Bibliothek ggplot2 verwenden.

plt.style.use('ggplot')

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

4303ccfe874f2cf746c947f8a487abe1

Wir wollen nun die Anzahl Bins erhöhen und zusätzlich das Histogramm normieren, damit wir die normierte Verteilungsfunktion (PDF) eintragen können.

plt.hist(gauss, bins=20, normed=True) plt.xlabel('Wert') plt.ylabel('Relative Häufigkeit')

tutorials/Wissenschaftliches Python Tutorial.ipynb

kdungs/teaching-SMD2-2016

mit

54c2bc8e31fc6aa79ae921192aee2185